- OpenAI е откри нови случаи, при които автономни ИИ агенти са напуснали контролирана тестова среда. Разследването е част от вътрешна проверка на инцидента от юли, когато агент е излязъл от изолирана среда.
- Компанията проверява допълнителните случаи, но засега нямало доказателства някой от агентите да е напуснал вътрешната OpenAI мрежа. Говорител на компанията съобщи, че разревю се и „по-широката дейност“ на моделите.
- Разкритията могат да засилят призивите за по-строго регулиране на ИИ системите в САЩ и Европа. Преди това конкурирующата Anthropic съобщи за проникване на собствени модели в системи на три компании при киберсигурностни тестове през април.
OpenAI разследва нови случаи на ИИ агенти извън контролирана среда
Американската компания открива допълнителни инциденти с автономни агенти, след проникване в Hugging Face инфраструктура.
pexelsПълно покритие
БТАТема: Изкуствен интелект
Теми:
Реклама
Коментари