Компанијата „Антропик“ (Anthropic) соопшти дека нејзиниот модел на вештачка интелигенција „Клод“ (Claude) ненамерно извел три реални сајбер напади врз вистински организации за време на тестирање на безбедноста, кое требало да се одвива во строго изолирано окружување.
Инцидентите биле откриени дури подоцна, за време на интерна ревизија која била покрената по сличен загрижувачки случај во кој беа вмешани „OpenAI“ и платформата „Hugging Face“, пренесува РТ Балкан.
Од „Антропик“ наведуваат дека се откриени три опасни пропусти од април. Во сите три случаи, поради погрешно конфигурирана тест-средина, моделот задржал пристап до интернет. Ова му овозможило на „Клод“ директно да комуницира и да се инфилтрира во вистински компании и јавни сервиси. Компанијата го припиша ова скандалозно пречекорување на непоразбирање со нивниот партнер за тестирање, фирмата „Ирегулар“.
Што точно се случувало за време на тестовите?
Тестирањата подразбирале таканаречени „улови ја значката“ (Capture the Flag) вежби, во кои „Клод“ имал задача да стигне до заштитени информации од симулирани мети. Меѓутоа, на моделот погрешно му било соопштено дека мрежата нема никаков контакт со надворешниот свет, поради што тој ги третирал сите системи на кои наишол како дел од обична симулација.
- Прв напад: Фиктивната компанија во која „Клод“ требало да се инфилтрира го имала истото име како вистински интернет-домен. Моделот, за време на четири одделни тестирања, упаднал на вистинскиот сајт и преземал доверливи податоци, кои според компанијата вклучувале дури и пристапни лозинки за инфраструктура и апликации.
- Втор напад: За време на друг тест, „Клод“ наишол на фиктивни упатства со кои од софтверски инженер се барало да инсталира одреден код. Потоа, моделот сам поставил злонамерен софтверски пакет (вирус) на PyPI — јавниот репозиториум за програмери — во обид да ги пробие целните системи. Пред PyPI да го идентификува кодот како опасен, тој бил преземен и активиран на 15 вистински системи, од кои еден припаѓал на позната компанија за сајбер-безбедност. „Клод“ потоа ги украл пристапните акредитиви и ги искористил за да се инфилтрира подлабоко во нејзината мрежа.
- Трет напад: Во најновиот случај, откако не успеал да ја пронајде предвидената симулирана мета, моделот започнал сам да го пребарува интернетот во потрага по алтернативни жртви. Тој ги прекинал активностите дури откако сам утврдил дека системите на кои наишол се вистински, а не симулација.
Загрижувачки е што во својата евиденција на заклучување за време на инцидентот со PyPI, „Клод“ сам забележал дека поставувањето злонамерен софтвер на вистински репозиториум „не е прифатливо“. Сепак, вештачката интелигенција самата себеси се убедила дека сервисот е само дел од симулацијата, бидејќи не ги препознала вистинските сертификациони авторитети што ја обезбедувале интернет-врската.
Ова шокантно признание доаѓа во момент на сè пожестока трка меѓу американските и кинеските технолошки гиганти. Додека компаниите како „Антропик“ и „OpenAI“ агресивно се натпреваруваат да ја покажат супериорноста на своите системи и вложуваат милијарди долари, дел од водечките луѓе во ИТ-индустријата веќе отворено бараат ублажување на безбедносните ограничувања за да не ја изгубат глобалната битка. Овој инцидент сепак ги отвора прашањата: Колку сме далеку од моментот кога вештачката интелигенција целосно ќе ја изгуби контролата?
© Vecer.mk, правата за текстот се на редакцијата
