Ученые предупреждают: через пять лет человечество может потерять контроль над ИИ

Специалисты Института Алана Тьюринга в Великобритании представили доклад, в котором оценили перспективы развития искусственного интеллекта. По их мнению, существует реалистичная вероятность того, что в течение следующих пяти лет появятся системы ИИ, превосходящие человека при выполнении практически всех важных когнитивных задач. Такие системы в исследовании называют «суперумными».

Ученые отмечают, что скорость и качество выполнения задач системами ИИ могут во все возрастающей степени вынуждать людей делегировать им принятие решений. Если ИИ-системы начнут изобретать стратегии, которые институты будут не в силах адекватно оценить, а также работать быстрее, чем организации, существенный человеческий контроль над ними может исчезнуть. Именно этот сценарий и вызывает наибольшую обеспокоенность авторов доклада.

Ранее глава компании Anthropic Дарио Амодей выразил беспокойство по поводу быстрого развития ИИ и призвал замедлить разработку более мощных моделей. С ним согласились владелец xAI Илон Маск и глава OpenAI Сэм Альтман. Таким образом, тревога по поводу неконтролируемого развития искусственного интеллекта звучит не только от академических исследователей, но и от руководителей ведущих технологических компаний.

Ранее доцент НГУ опроверг теорию о восстании машин из-за обмана со стороны ИИ.

checheninfo.ru