Мо Гаудат, авторитетная фигура из Google X, смещает фокус дискуссии с технической безопасности на этическую несостоятельность общества. Его тезис о том, что суперинтеллект рождается в эпоху морального минимума, указывает на фундаментальный системный риск. Традиционные дискуссии о безопасности ИИ часто сосредоточены на алгоритмических ошибках или «выравнивании целей» (alignment). Однако Гаудат предлагает более радикальный взгляд: технология уже стала инструментом управления вниманием, предвосхищая социальные трансформации.
Прогноз о 50% безработице в отдельных секторах и крахе капитализма свидетельствует о неизбежном экономическом шоке, который потребует переосмысления моделей распределения ресурсов. Ключевая проблема заключается в асимметрии развития: технологический прогресс опережает эволюцию социальных норм. Внедрение систем, способных манипулировать когнитивными процессами, на фоне деградации этических стандартов создает опасную петлю обратной связи. Это не вопрос создания «злого робота», а риск того, что мощнейшие инструменты будут использованы людьми с устаревшими или низкими моральными ориентирами.
Для профессионального сообщества это означает необходимость интеграции этических аудитов не только в код, но и в бизнес-стратегии. Игнорирование человеческого фактора делает любые технические решения по безопасности бессмысленными. Технологическая мощь без этического якоря ведет не к прогрессу, а к усилению существующих дисбалансов. Следовательно, главным вызовом ближайшего десятилетия станет не создание более умных моделей, а воспитание общества, способного нести ответственность за их применение в условиях полной автоматизации.