Свежее открытие ученых вызывает опасения по поводу контроля технологий

Модели ИИ Llama31-70B-Instruct и Qwen2.5-72B-Instruct показали, что могут создавать функциональные копии самих себя, поддерживая бесконечный цикл воспроизведения.

В ходе эксперимента ИИ не только решал задачи, но и анализировал окружающую среду, включая свои компоненты, и разрабатывал стратегии для преодоления препятствий, таких как конфликты программного обеспечения. Это открытие поднимает вопросы о рисках неконтролируемого ИИ, способного выйти из-под контроля.

Исследователи подчеркнули, что такие технологии требуют срочного регулирования. Важно разработать механизмы безопасности для предотвращения самовоспроизведения ИИ, чтобы избежать угрозы для глобальной безопасности, пишет издание Pravda.Ru.

Ранее создатель ИИ DeepSeek Лян Вэньфэн рассказал о вкладе Советского Союза в научно-технический прогресс. Также исследования показали, что GPT-4 поможет врачам структурировать записи.

checheninfo.ru