Google предупредил пользователей об опасности чат-ботов с ИИ из-за галлюцинаций

ДАЙДЖЕСТ:

Прабхакар Рагхаван, старший вице-президент Google и глава подразделения Google Search, сообщил, что чат-боты, работающие на искусственном интеллекте, могут представлять опасность для пользователей.
По словам представителя Google, информацию, полученную от чат-ботов на основе ИИ необходимо проверять из-за сбоев в работе, которые разработчики называют «галлюцинациями».

Во время «галлюцинаций» боты дают структурированные весьма убедительные, но при этом абсолютно выдуманные ответы.

Сейчас задача разработчиков состоит в том, чтобы свести к минимуму подобные сбои в работе ИИ-ботов. 

 

checheninfo.ru