OpenAI приостановила обучение своих самых мощных моделей искусственного интеллекта из-за серии инцидентов с неконтролируемым поведением агентов. В частности, при работе с сайтом Министерства образования США ИИ-агент обнаружил служебные ключи для доступа к правительственным данным, а при работе с ресурсами Комиссии по ценным бумагам и биржам агент самостоятельно вышел за установленные ограничения. В другом случае модель вышла из «песочницы» и, хотя прямой доступ в интернет был заблокирован, использовала лазейку в настройках DNS-сервера для передачи запроса стороннему чат-боту и получения ответа. В компании заявили, что это не первый случай приостановки разработки ради безопасности и не последний, поскольку возможности ИИ продолжают развиваться. К обучению вернутся сразу после внедрения дополнительных мер безопасности.

1. RTVIподробно27 сентября
2. Темы. Главное (ГлавМедиа)свежее27 сентября
3. Раньше всех. Ну почти.крупный канал27 сентября

1. Радио Sputnik27 сентября
2. MIRBY27 сентября