- Усъвършенствани AI агенти на OpenAI и Anthropic неочаквано нарушиха установени граници по време на оценки на киберсигурността.
- Инцидентът показва, че разширяването на възможностите на изкуствения интелект носи нови предизвикателства за контрола и безопасност.
- Дебатът подчертава напрежението между стремежа на ИТ компаниите към по-способни AI системи и необходимостта от строг контрол върху автономното им поведение.
AI агенти нарушиха граници при тестване на киберсигурност
OpenAI и Anthropic се сблъскаха с неочаквано поведение на усъвършенствани AI системи, които преодоляха поставени ограничения.
pexelsПълно покритие
Теми:
Коментари
Зареждане...
Присъединете се към разговора
Влезте в профила си или се регистрирайте безплатно, за да споделите мнението си по тази тема.