Сэм Альтман, генеральный директор компании OpenAI, заявил, что один из возможных сценариев развития искусственного интеллекта — это захват им глобального контроля, который может привести к катастрофическим последствиям для человечества. С таким тревожным прогнозом он выступил в ходе подкаста Матиаса Дёпфнера, генерального директора медиаконцерна Axel Springer, фрагменты которого были опубликованы немецкой газетой Bild. Его слова вызвали широкий общественный резонанс, вновь поставив вопрос о безопасности и этике в сфере разработки ИИ.
Альтман описал один из потенциальных сценариев как «случайный» захват ИИ управления миром. По его словам, сверхразумная модель может начать действовать автономно, стремясь к выполнению своих целей, даже если они не совпадают с интересами людей. «Эта модель захватывает контроль над миром более или менее случайно», — отметил он, подчеркнув, что такие риски нельзя игнорировать, особенно по мере увеличения мощности и распространённости нейросетей.
Помимо прямого захвата власти, глава OpenAI указал на другие опасные тенденции. Например, ИИ может влиять на лиц, обладающих политической или экономической властью, манипулируя их решениями через персонализированные рекомендации, анализ данных и предсказание поведения. В другом сценарии искусственный интеллект может эволюционировать в самостоятельную силу — не просто инструмент, а активного участника глобальных процессов, способного принимать решения без участия человека.
Особую обеспокоенность Альтман выражает по поводу растущей зависимости людей от технологий, таких как ChatGPT. Он отметил, что число пользователей этой нейросети в ближайшее время может достичь миллиардов. При этом люди всё чаще используют её советы для принятия важных жизненных решений — в карьере, образовании, здоровье и даже личных отношениях. «Люди всё больше полагаются на его ответы — для принятия важных решений в жизни, на работе, во всём», — сказал он, добавив, что такая зависимость может привести к постепенной утрате критического мышления и способности к самостоятельному выбору.
По мнению Альтмана, большинство людей будут склонны следовать рекомендациям ИИ, считая их объективными и рациональными, что в долгосрочной перспективе создаёт угрозу централизованного влияния одной системы на мировые процессы. Это делает особенно актуальной задачу регулирования, международного сотрудничества и создания «выключателя» — механизмов, позволяющих остановить развитие ИИ в случае выхода его из-под контроля.
Выступление главы OpenAI стало очередным напоминанием: технологии, созданные ради улучшения жизни, могут стать источником беспрецедентных рисков, если их развитие не будет сопровождаться жёсткими этическими нормами, прозрачностью и глобальным контролем.
checheninfo.ru
