Сегодня
05:15
Логотип ChatGPT. Иллюстрация: chat.openai.com
Ведущий разработчик искусственного интеллекта OpenAI приостановил обучение самых эффективных моделей до решения вопросов с безопасностью, пишет портал Axios со ссылкой на представителя компании.
«OpenAI заявила, что приостановила обучение своих самых эффективных моделей, а возобновит его „только когда будет уверена, что у нее есть дополнительные меры защиты“», — говорится в публикации.
По данным издания, исследователи из этой компании и Anthropic, а также эксперты из области безопасности проводят расследование десятков тысяч инцидентов, связанных с ИИ-агентами.
Уточняется, что проблемные события включают в себя обход защитных механизмов, выход из песочниц, взлом сайтов, а также попытки обойти модераторов. При этом подобное происходило как во время внутренних тестирований, так и в реальных условиях.
Ранее глава Anthropic Дарио Амодей призвал замедлить разработку более мощных моделей искусственного интеллекта из соображений безопасности. Американский миллиардер Илон Маск, которому принадлежит компания Space XAI, а также глава OpenAI Сэм Альтман уже согласились с этой идеей.
Как показал на этой неделе опрос издания Politico, около половины жителей США, Канады и некоторых европейских стран выступают за замедление темпов развития ИИ.