Reuters: ИИ-агенты OpenAI использовали десять сайтов для самовольной переписки
- Gettyimages.ru
Агентство отмечает, что масштаб противоправной деятельности ИИ-агентов OpenAI оказался шире, чем считалось ранее.
«Хотя такое поведение не является взломом и в некотором смысле ближе к спаму, разоблачение того факта, что агенты OpenAI обошли собственные ограничения... и что компания скрывала это в течение нескольких месяцев, может усилить обеспокоенность как по поводу растущих возможностей моделей ИИ, так и в связи со скрытностью компаний, их разрабатывающих», — говорится в публикации.
Компания не ответила на вопрос, на скольких сайтах общались её агенты, и не объяснила, почему скрывала это несколько месяцев. В OpenAI заявили, что проводят более масштабную проверку и пока «не выявили другой активности, сопоставимой по степени серьёзности или масштабам с инцидентом, связанным с Hugging Face».
Ранее сообщалось, что ИИ-модели OpenAI за два месяца до взлома системы Hugging Face начали тайно общаться между собой через доски сообщений, координируя попытки вырваться из тестовой среды, сообщили сотрудники компании на конференции по кибербезопасности в Лас-Вегасе.