Мультипортал. Всё о Чеченской Республике.

«Галлюцинируют и не ставят цели»: доцент ИТМО объяснил, почему человечеству пока рано бояться сверхинтеллекта


ДАЙДЖЕСТ:
«Галлюцинируют и не ставят цели»: доцент ИТМО объяснил, почему человечеству пока рано бояться сверхинтеллекта

По словам эксперта, современные технологии вплотную подошли к понятию «общий искусственный интеллект» (AGI), а следующей ступенью развития станет создание сверхинтеллекта, который превзойдет возможности человека.



«Технологии доросли до термина "общий искусственный интеллект" или "сильный искусственный интеллект". Следующая ступень — создание сверхинтеллекта, который по своим возможностям превзойдёт человека», — отметил Кугаевских в интервью RT.


Несмотря на впечатляющий прогресс, переоценивать возможности нейросетей пока рано. Эксперт выделил несколько фундаментальных ограничений, которые не позволяют доверить алгоритмам критически важные процессы:


Отсутствие самосознания: у ИИ нет субъектности. Он не понимает контекста и не может самостоятельно ставить перед собой цели, как бы ни утверждали обратное представители ИТ-корпораций.
Проблема «галлюцинаций»: модели продолжают выдавать ложную информацию и ошибаться в логических построениях.
Слабое критическое мышление: алгоритмы демонстрируют дефицит креативности и не способны к глубокому критическому анализу.

Отдельно Александр Кугаевских предупредил о главной угрозе тотальной автоматизации — постепенной деградации человеческого капитала.



«Это несёт серьёзные риски. Чем больше мы будем перекладывать узлы принятия решений на модели, тем меньше у нас будет понимания, как работает вся система целиком. Со временем это может привести к потере компетенций людьми, которые уже не смогут перехватить у ИИ управление в кризисной ситуации», — заключил учёный.



По сути, чем активнее общество делегирует принятие решений машинам, тем быстрее оно теряет собственные компетенции. В критической ситуации люди рискуют оказаться перед «черным ящиком», который они сами создали, но уже не способны контролировать.


 




checheninfo.ru



ЭТО НУЖНО ЗНАТЬ:


ЧТО ЧИТАЮТ. BEST:

Время в Грозном

   

Горячие новости


Здесь могла быть Ваша реклама


checheninfo.ru      checheninfo.ru

Смотреть все новости


МЫ В СЕТЯХ:

 checheninfo.ru  checheninfo.ru checheninfo.ru checheninfo.ru Ютуб Гордалой  checheninfo.ru Ютуб Гордалой Ютуб Гордалой checheninfo.ru

 checheninfo.ru  checheninfo.ru  checheninfo.ru  checheninfo.ru  checheninfo.ru


Наши партнеры

gordaloy  Абрек