Google и DeepMind создают институт для защиты человечества от ИИ: что это значит для будущего

Компания DeepMind, входящая в структуру технологического гиганта Google, анонсировала создание нового института, который займётся вопросами безопасного развития общего искусственного интеллекта (AGI).

Речь идёт о системах, обладающих универсальным интеллектом на уровне человека. По замыслу создателей, новая площадка должна способствовать продвижению смелых идей о том, как обеспечить безопасность таких технологий, их полезное применение и оценить последствия для общества.

На сайте института уже обозначены ключевые вызовы, с которыми сталкивается человечество. В DeepMind отмечают, что последствия всё более мощного ИИ уже заметны в сфере кибербезопасности и биологических рисков. Кроме того, существует вероятность того, что в будущем люди могут утратить контроль над саморазвивающимися системами. Новый институт задуман как платформа для сотрудников Google, DeepMind и мирового научного сообщества, где они смогут публиковать глубоко проработанные идеи о мире, в котором AGI станет реальностью.

Инициатива появилась на фоне растущей обеспокоенности ведущих специалистов отрасли. Ранее директор американской компании Anthropic Дарио Амодеи опубликовал статью с призывом замедлить темпы развития передовых ИИ-моделей. По его мнению, координированное замедление работы над такими технологиями позволит выиграть один-два года дополнительного времени, прежде чем модели достигнут критических уровней развития, и избежать серьёзных просчётов. Этот прогноз поддержали основатель SpaceX Илон Маск и директор OpenAI Сэм Альтман.

Ранее сообщалось, что британские биологи выявили новый механизм влияния кофеина на клеточное старение. Препарат от диабета оказался сильнее диеты: ученые зафиксировали омоложение мышей на 100 дней.

checheninfo.ru