Куратором проекта назначен один из основателей компании Илья Суцкевер.
Компания OpenAI, ведущий разработчик чат-бота ChatGPT, создает специальную команду для решения проблем, связанных с управлением «сверхинтеллектуальными» системами искусственного интеллекта, которую возглавил один из ее основателей Илья Суцкевер, сообщает портал TechCrunch.
В официальном сообщении, опубликованном Ильей Суцкевером и Яном Лейке, руководителем «группы по согласованию» в OpenAI, отмечается, что в ближайшие десятилетия возможно появление искусственного интеллекта, который превзойдет человеческий уровень.
В связи с этим выдвигается необходимость исследования и разработки способов контроля и ограничения таких сверхинтеллектуальных систем, чтобы обеспечить их безопасность и этичность.
Команда, получившая название Superalignment, будет обладать значительными вычислительными ресурсами OpenAI и в течение следующих четырех лет будет работать над решением сложных технических проблем, связанных с управлением сверхинтеллектуальным искусственным интеллектом.
Одной из ключевых задач, которую ставит перед собой команда, является разработка «автоматического исследователя согласования на человеческом уровне». Этот искусственный интеллект будет обучен оценивать другие системы искусственного интеллекта и проводить исследования в области согласованности и безопасности.
OpenAI предполагает, что искусственный интеллект может эффективно и продуктивно справиться с этими задачами, превосходя возможности человека в данной области.
Напомним, что ранее в Китае нейросеть создала новый процессор на архитектуре risc-v за пять часов.
checheninfo.ru
