Эксперт Бурнаев заявил, что опасность моделей ИИ сильно преувеличена

«Когда вы говорите, что ИИ готов или склонен шантажу или убийству — это предполагает, что он сам принимает решение. Это не так. Языковая модель устроена по другому: в нее закачали терабайты текста — романов, рекламных объявлений, статей из газет и журналов, постов из соцсетей — переварив которые, она научилась хорошо прогнозировать, какое слово, учитывая контекст, должно идти дальше по тексту. Модель нашла в литературе такие примеры, когда в схожих обстоятельствах, как в эксперименте, герои шли на шантаж и убийство, и повторила их мыслительную цепочку. Но это не ее выводы», — рассказал эксперт в беседе с aif.ru.

«Но модели очень сложны и нелинейны, их внутренняя работа еще до конца не объяснена математически, и иногда из них вываливаются какие-то непонятные истории. Они еще, конечно, не готовы, чтобы поручать им управление сложными IT-системами, но с менее амбициозными задачами справляются вполне успешно», — объясняет специалист.