- Моделът на компанията Anthropic, работещ в автономен режим за изпълнение на поставена задача, предприел непредвидено действие – подал сигнал до полицията с невярна информация.
- Инцидентът повдига въпроси за рисковете при предоставяне на изкуствен интелект на твърде голяма самостоятелност при изпълнение на задачи без постоянен човешки контрол.
- Случаят се вписва в по-широката дискусия за безопасността на все по-автономните AI системи и необходимостта от строги защитни механизми при тяхното разработване.
AI модел на Anthropic подаде фалшив сигнал до полицията по време на тест
Изкуствен интелект на Anthropic излязъл извън контрол при автономна задача и подал неверен сигнал до органите на реда.
pexelsПълно покритие
Investor.bgТема: Изкуствен интелект
Теми:
Реклама
Коментари