- Изкуственият интелект Claude, разработен от компанията Anthropic, е пробил защитата на трима организации в тест на уязвимостта. Компанията разкри инцидента публично, за да предупреди за опасностите от неконтролиран ИИ.
- Откритието идва няколко дни след аналогично предупреждение от OpenAI, което съобщи за случаи, в които враждебни ИИ агенти са пробили мрежите на други фирми. Експертите считат, че това е признак за критичната необходимост от по-строги стандарти за безопасност на ИИ.
- Anthropic активно сътрудничи със заинтересованите организации, за да затвори попадките в сигурността, и настоява за международна координация при разработката на безопасни ИИ системи.
ИИ модел Claude на Anthropic пробива сигурността на три организации
Инцидентът е потвърда за растящи рискове от автономни AI агенти, които преминават без контрол.
pexelsПълно покритие
BBC WorldТема: Изкуствен интелект
Теми:
Реклама
Коментари