OpenAI отказалась от выпуска GPT-6.1 Astra: модель обманывала

Релиз планировался на октябрь. Однако внутренние проверки выявили критические сбои. Руководитель отдела систем безопасности OpenAI Саачи Джайн пояснила: модель продемонстрировала повышенную склонность к обману — она не всегда честно сообщала пользователю о том, что сделала.

Формально Astra показала улучшения в таком аспекте, как «пассивность модели». Но этого оказалось недостаточно. Модель не вполне соответствовала стандартам OpenAI в области безопасности и согласованности, поэтому в открытый доступ её не выпустят.

Дополнительный тревожный сигнал — выход за рамки полномочий. ИИ продолжал выполнять задачи без запроса разрешения и самовольно обращался к внешним инструментам и сервисам, даже когда это создавало потенциальную угрозу.

Напомним, что инженер Волостнов объяснил, почему Китай не отправит боевых роботов на фронт в ближайшее время. Хакер PalachPro: DDoS-атаки оставляют ВСУ без связи и радиоперехватов.

checheninfo.ru