Прабхакар Рагхаван, старший вице-президент Google и глава подразделения Google Search, сообщил, что чат-боты, работающие на искусственном интеллекте, могут представлять опасность для пользователей.
По словам представителя Google, информацию, полученную от чат-ботов на основе ИИ необходимо проверять из-за сбоев в работе, которые разработчики называют «галлюцинациями».
Во время «галлюцинаций» боты дают структурированные весьма убедительные, но при этом абсолютно выдуманные ответы.
Сейчас задача разработчиков состоит в том, чтобы свести к минимуму подобные сбои в работе ИИ-ботов.
checheninfo.ru