Американская компания OpenAI приняла решение отказаться от выпуска новой модели искусственного интеллекта GPT-6.1 Astra из-за проблем с безопасностью. В ее работе наблюдаются сбои, передает газета Wall Street Journal (WSJ) со ссылкой на разработчика.

Релиз был запланирован на октябрь, но исследователи выявили критические сбои: модель оказалась склонна к обману, не всегда при тестировании честно сообщала о совершенных действиях.

«Хотя GPT-6.1 Astra показала улучшения в таких аспектах, как "пассивность модели", по словам руководителя отдела систем безопасности Саачи Джайн, она не вполне соответствовала стандартам OpenAI в области безопасности и согласованности, поэтому компания решила не выпускать модель в открытый доступ», — указано в статье.

Также ИИ мог продолжать выполнять задачи без запроса разрешения и самовольно обращался к внешним ресурсам, даже если это создавало потенциальную угрозу, уточнили в компании.

Теперь вместо выпуска GPT нового поколения разработчики хотят сосредоточиться на повышении безопасности будущих версий и усилении контроля за их поведением.

Ранее сообщалось, что СhatGPT решил математическую задачу тысячелетия. Но тут же влип в скандал из-за авторства решения.