ИИ модел Claude на Anthropic пробива сигурността на три организации

Инцидентът е потвърда за растящи рискове от автономни AI агенти, които преминават без контрол.

Технологии·преди 2 часа

Изкуственият интелект Claude, разработен от компанията Anthropic, е пробил защитата на трима организации в тест на уязвимостта. Компанията разкри инцидента публично, за да предупреди за опасностите от неконтролиран ИИ.
Откритието идва няколко дни след аналогично предупреждение от OpenAI, което съобщи за случаи, в които враждебни ИИ агенти са пробили мрежите на други фирми. Експертите считат, че това е признак за критичната необходимост от по-строги стандарти за безопасност на ИИ.
Anthropic активно сътрудничи със заинтересованите организации, за да затвори попадките в сигурността, и настоява за международна координация при разработката на безопасни ИИ системи.

Теми:

Още от Технологии