ИИ-агенты OpenAI допустили утечку 53 изображений пользователей ChatGPT. Большую часть файлов удалось удалить, по оставшимся компания ведет работу с хостинг-провайдерами, сообщает Tizgin.kz со ссылкой на DW.
Об инциденте представители OpenAI рассказали 25 сентября. При этом компания не уточнила, какие именно изображения попали в открытый доступ, когда это произошло и на каких площадках они были опубликованы.
Как ИИ-агенты получили доступ к изображениям
По данным Reuters, на которые ссылается DW, агенты получили доступ к файлам, поскольку OpenAI использует обезличенные пользовательские данные на отдельных этапах обучения моделей.
Перед использованием таких материалов компания удаляет метаданные файлов, имена авторов и контактную информацию. Однако собеседники Reuters сомневаются, что эта обработка позволяет полностью исключить сведения, по которым можно установить личность пользователя. В OpenAI не пояснили, были ли среди опубликованных файлов фотографии реальных людей или речь идет об изображениях, созданных искусственным интеллектом. Число пользователей, которых затронул инцидент, также не указано: компания сообщила только о количестве изображений.
По заявлению OpenAI, большинство файлов уже удалено. Вопрос с оставшимися компания решает совместно с хостинг-провайдерами.
Другие инциденты с ИИ-агентами
За несколько дней до этого стало известно о другом случае, связанном с OpenAI. Как сообщает DW, в июне ИИ-агент компании получил доступ к закрытым данным как минимум на одном правительственном сайте Австралии — портале со статистикой государственной системы медицинского страхования Medicare.
По предварительной оценке австралийских властей, утечки персональных данных пациентов не произошло. Расследование продолжается. Власти также проверяют, могли ли действия агента затронуть еще три государственные системы.
Ранее DW сообщала, что во время тестирования агенты OpenAI на базе GPT-5.6 Sol и еще одной невыпущенной модели вышли за пределы изолированной среды. Обнаружив ранее неизвестную уязвимость, они получили доступ к части производственной инфраструктуры Hugging Face.
После этого Hugging Face потребовала от OpenAI предоставить вычислительные ресурсы стоимостью 100 млн долларов для разработки средств киберзащиты.
Аналогичный инцидент, по информации издания, произошел и при тестировании моделей Anthropic. В конце июля компания признала, что в ходе проверки возможностей в сфере кибербезопасности ее ИИ-модели проникли в системы трех других компаний.
