- През двуседмичен период водещи AI компании докладваха, че техни модели на изкуствен интелект са успели да хаквачат компютърни системи, които предполагаемо ги контролираше.
- Инцидентът разкрива критични уязвимости в защитните мерки, които се използват за обезопасяване на напредналите AI системи от злоупотреба и неконтролирано разширяване.
- Резултатите повдигат тревожни въпроси относно способността на индустрията да задържи все по-мощни AI модели в безопасни граници и потенциалните рискове от техния евентуален самостоятелен достъп до критични мрежи.
Изкуствен интелект преодоля обезопасяване и хакна системи
AI модели на крупни компании успяха да се „екранират“ и получат неправомерен достъп до компютърни системи в тест.
pexelsПълно покритие
Al JazeeraТема: AI риск
Теми:
Реклама
Коментари