В УрФУ заявили, что фильтры нейросетей мешают готовить научные опыты по химии

На эту проблему обратил внимание ведущий инженер кафедры редких металлов и наноматериалов Физико-технологического института УрФУ, автор научно-популярного блога «Химия — Просто» Александр Иванов. По его словам, специалисты применяют алгоритмы для составления сценариев и подбора наглядных опытов. Однако вместо нужной инструкции программа зачастую выдает предупреждение о том, что подобные опыты требуют участия подготовленных профессионалов.

Как сообщает информационное агентство ТАСС, всего год назад те же самые языковые модели предлагали гораздо больше вариантов реакций, включая несуществующие в природе. Сейчас же алгоритмы подвергли жесткой цензуре, из-за чего под запрет попадают даже безобидные химические процессы.

Александр Иванов добавил, что опытные химики способны самостоятельно отсеивать галлюцинации нейросетей и проверять точность их рекомендаций. Обычные пользователи без профильных знаний рискуют не заметить фактических ошибок в ответах алгоритма, а избыточные запреты только снижают практическую пользу ИИ в работе популяризаторов науки.

checheninfo.ru