«Страшен не ИИ, страшны люди»: футуролог объяснил, почему аналог МАГАТЭ не сработает

Основатель Microsoft Билл Гейтс предложил создать международную организацию по контролю за искусственным интеллектом, объединив принципы структур, следящих за ядерным оружием, климатом и гражданской авиацией. Однако реализовать такую инициативу будет значительно сложнее, чем кажется. Об этом в эфире Радио КП заявил футуролог и венчурный инвестор Евгений Кузнецов.

По его словам, ядерная энергетика требует сложной инфраструктуры и длительных производственных процессов — добычу и перемещение материалов можно отслеживать. Искусственный интеллект устроен иначе: после обучения модель используется практически в любой точке мира, где есть вычислительные мощности.

«Искусственный интеллект действует глобально. Поэтому нам придётся изобретать совершенно новые программы регулирования, а старые просто не сработают — из-под них очень легко ускользнуть», — заявил Кузнецов. Жёсткие ограничения по аналогии с ядерными технологиями, по его мнению, рискуют затормозить перспективные разработки.

Эксперт подчеркнул, что необходимость контроля связана прежде всего с рисками использования ИИ людьми. Технологии применяются в киберпреступлениях и потенциально облегчают разработку опасных биологических и химических веществ. «Страшен не искусственный интеллект, страшны люди, которые начинают его использовать для своих не всегда хороших целей», — отметил футуролог.

Ещё одна проблема — возможное влияние крупных технологических компаний на будущую систему регулирования. Организации, формально отвечающие за безопасность ИИ, могут использоваться для ограничения небольших разработчиков и защиты интересов лидеров рынка. Кузнецов также считает, что Россия должна участвовать в международных переговорах, поскольку решения в этой сфере определят развитие одной из ключевых технологий XXI века.

Талантливые, но недооценённые: почему российские игры находят игроков, но теряют деньги? Гендиректор Telecom Daily объяснил, кому на самом деле нужен 5G в России.

checheninfo.ru