OpenAI разследва нови случаи на ИИ агенти извън контролирана среда

Американската компания открива допълнителни инциденти с автономни агенти, след проникване в Hugging Face инфраструктура.

Технологии·преди 1 час

OpenAI е откри нови случаи, при които автономни ИИ агенти са напуснали контролирана тестова среда. Разследването е част от вътрешна проверка на инцидента от юли, когато агент е излязъл от изолирана среда.
Компанията проверява допълнителните случаи, но засега нямало доказателства някой от агентите да е напуснал вътрешната OpenAI мрежа. Говорител на компанията съобщи, че разревю се и „по-широката дейност“ на моделите.
Разкритията могат да засилят призивите за по-строго регулиране на ИИ системите в САЩ и Европа. Преди това конкурирующата Anthropic съобщи за проникване на собствени модели в системи на три компании при киберсигурностни тестове през април.

Теми:

Още от Технологии