Мицрософт предузима правне мере против хакера који користе Азуре АИ у злонамерне сврхе
Мицрософтова текућа битка против сајбер криминала достигла је нове висине са његовом најновијом тужбом против хакерске групе оптужене за искоришћавање Азуре-ових генеративних услуга вештачке интелигенције. Технолошки гигант је открио да су актери претњи са седиштем у иностранству креирали платформу за хаковање као услугу да би заобишли безбедносне протоколе Азуре АИ, омогућавајући стварање штетног садржаја и малвера .
Овај случај наглашава растуће ризике које представљају сајбер криминалци који користе АИ платформе у злонамерне сврхе, што представља значајне изазове сајбер безбедности за организације широм света.
Преглед садржаја
Како су хакери искористили Мицрософт-ов Азуре АИ
Мицрософтова јединица за дигиталне злочине (ДЦУ) открила је операцију у јулу 2024. Група је користила украдене корисничке акредитиве, прикупљене из јавних извора, да пробије Азуре системе и манипулише АИ моделима као што је ОпенАИ-јев ДАЛЛ-Е.
Кључни детаљи укључују:
- Крађа акредитива : Украдени Азуре АПИ кључеви и Ентра ИД подаци за аутентификацију су коришћени за приступ Азуре ОпенАИ услугама.
- Креирање штетног садржаја : Група је уновчила свој приступ креирањем алата за генерисање увредљивих слика и заобилажењем филтера садржаја АИ.
- Хацкинг-ас-а-Сервице : Група је продавала приступ својим алатима преко веб локација као што је аитисм[.]нет и делила упутства за коришћење са другим сајбер криминалцима.
Ове активности су довеле до незаконитог генерисања хиљада штетних слика и омогућавања даљег незаконитог злостављања вештачке интелигенције, док су починиоци покушавали да избришу своје дигиталне отиске.
Веза са злонамерним софтвером
Злоупотреба генеративних услуга вештачке интелигенције има шире импликације на развој малвера . Актери претње могу потенцијално:
- Генеришите мамце за крађу идентитета или лажне веб странице дизајниране да опонашају поуздане платформе.
Ова експлоатација наглашава како хакерске групе развијају своју тактику, комбинујући украдене акредитиве и напредне могућности вештачке интелигенције за спровођење сајбер напада у великим размерама.
Обрнута експлоатација проксија и ЛЛМјацкинг
Један значајан аспект случаја је употреба обрнутих проксија, као што је де3у алат. Ови проксији су преусмерили комуникацију са корисничких уређаја кроз Цлоудфларе тунел на Азуре ОпенАИ услуге, имитирајући легитимне АПИ позиве.
Ова техника одражава тактику идентификовану у ЛЛМјацкинг нападима, где се украдени акредитиви у облаку користе за приступ услугама модела великог језика (ЛЛМ), као што су Антхропиц, АВС Бедроцк и Гоогле Вертек АИ. Такве шеме омогућавају актерима претњи да отму алате вештачке интелигенције засноване на облаку, често монетизујући приступ тако што га продају другим криминалцима.
Мицрософтове противмере и шире импликације
Као одговор на ову операцију, Мицрософт:
- Опозван приступ : Онемогућили су украдене акредитиве групе и затворили њихову инфраструктуру услуга.
- Заплењени домени : Добијен судски налог за гашење аитисм[.]нет-а .
- Ојачана одбрана : Уведене су додатне заштитне мере за спречавање сличних злоупотреба у будућности.
Међутим, Мицрософт је такође открио доказе да група циља друге пружаоце услуга вештачке интелигенције, што указује на већи тренд злоупотребе вештачке интелигенције у окружењу сајбер безбедности.
АИ алати: мач са две оштрице
Док генеративни АИ алати као што су ЦхатГПТ и ДАЛЛ-Е нуде огромне предности, њихова злоупотреба од стране сајбер криминалаца наглашава хитну потребу за побољшаним сигурносним протоколима:
- Безбедност АПИ-ја : Организације морају да обезбеде робусну заштиту за АПИ кључеве како би спречиле неовлашћени приступ.
- Праћење претњи : Континуирано праћење коришћења услуге вештачке интелигенције може помоћи у откривању и блокирању аномалног понашања.
Тужба Мајкрософта баца светло на опасно укрштање вештачке интелигенције и сајбер криминала. Како актери претњи све више искоришћавају услуге вештачке интелигенције за генерисање штетног садржаја и развој малвера, организације морају дати приоритет заштити своје АИ инфраструктуре.
Случај служи као оштар подсетник: док вештачка интелигенција представља будућност технологије, њене рањивости се могу користити оружјем, чинећи робусне мере сајбер безбедности апсолутно неопходним у борби против дигиталних претњи.