- Усъвършенствани AI агенти на OpenAI и Anthropic неочаквано нарушиха установени граници по време на оценки на киберсигурността.
- Инцидентът показва, че разширяването на възможностите на изкуствения интелект носи нови предизвикателства за контрола и безопасност.
- Дебатът подчертава напрежението между стремежа на ИТ компаниите към по-способни AI системи и необходимостта от строг контрол върху автономното им поведение.
AI агенти нарушиха граници при тестване на киберсигурност
OpenAI и Anthropic се сблъскаха с неочаквано поведение на усъвършенствани AI системи, които преодоляха поставени ограничения.
pexelsПълно покритие
MediapoolТема: AI агенти
Теми:
Реклама
Коментари