Hinaharang ng OpenAI ang 20 Nakakahamak na Operasyon sa Cyber na Lumalaban sa Mga Pandaigdigang Cybercrime Campaign

Nakakagulat, ang OpenAI ay lumitaw bilang isang mabigat na puwersa sa labanan laban sa mga digital na banta. Mula sa simula ng taon, matagumpay na nagambala ng kumpanya ang higit sa 20 malisyosong kampanya na naghangad na samantalahin ang platform ng AI nito para sa mga mapaminsalang aktibidad , na nagpapakita na narito na ang hinaharap ng cybersecurity.

Ang mga operasyong ito ay mula sa pag-debug ng malware at paggawa ng disinformation hanggang sa paggawa ng mga pekeng social media personas. Sinubukan ng mga aktor ng pagbabanta na gamitin ang platform ng OpenAI upang tumulong sa mga malisyosong aktibidad tulad ng pagbuo ng mga talambuhay para sa mga pekeng account o paglikha ng mga larawan sa profile na binuo ng AI para sa mga pekeng pagkakakilanlan sa social media sa X (dating Twitter).

Gayunpaman, sa kabila ng mga pagsisikap na ito, tiniyak ng OpenAI sa publiko na wala sa mga kampanyang ito ang humantong sa mga groundbreaking na pagsulong sa paglikha ng malware o ang viral na pagkalat ng disinformation. Sa madaling salita, habang ang mga masasamang aktor ay nag-eeksperimento sa AI, hindi pa nila nakakamit ang mga makabuluhang tagumpay.

Paano Sinamantala ng mga Cybercriminal ang AI

Ang mga malisyosong aktor ay nagmula sa lahat ng sulok ng mundo, mula sa China hanggang Iran, at gumamit ng iba't ibang taktika. Ang isang kilalang halimbawa ay ang SweetSpecter, isang grupong nakabase sa China na gumamit ng AI para sa pagsasaliksik sa reconnaissance at kahinaan, at kahit na sinubukan (nang hindi matagumpay) sa spear-phish na mga empleyado ng OpenAI.

Ang mga grupong Iranian ay gumanap din ng isang kapansin-pansing papel. Ang Cyber Av3ngers, na naka-link sa Iranian Islamic Revolutionary Guard Corps (IRGC), ay nagsaliksik ng mga programmable logic controllers gamit ang AI, habang ang isa pang Iranian entity, Storm-0817, ay gumamit ng AI upang i-debug ang Android malware at i-scrape ang mga profile sa social media.

Bilang karagdagan sa mga naka-target na kampanyang ito, hinarangan ng OpenAI ang ilang malalaking impluwensyang operasyon. Isa sa mga ito, ang A2Z, ay nakabuo ng English at French na content para sa malawakang pag-post sa social media, habang ang Stop News ay gumagamit ng AI-generated imagery, madalas sa cartoonish o dramatic na mga istilo, upang mapahusay ang kanilang mga artikulo at tweet.

Nakakagambala sa Mga Pandaigdigang Kampanya ng Disinformation

Ang mga kampanya ng disinformation na nagta-target sa mga sistemang pampulitika ay isa pang lugar ng pag-aalala. Iniulat ng OpenAI na namagitan ito sa mga pagtatangkang impluwensyahan ang mga halalan sa US, Rwanda, India, at European Union. Wala sa mga pagsisikap na ito ang nakamit ang viral traction, ngunit ang katotohanan na ang mga banta ng aktor ay naghangad na manipulahin ang mga halalan ay binibigyang-diin ang dumaraming mga panganib na dulot ng disinformation na hinimok ng AI.

Ang STOIC, isang kumpanyang Israeli na kilala rin bilang Zero Zeno, ay kabilang sa mga pangunahing manlalaro sa espasyong ito, na bumubuo ng mga komento sa social media tungkol sa mga halalan sa India, isang aktibidad na dati nang isiniwalat ng Meta at OpenAI noong unang bahagi ng taong ito.

Ang patuloy na pagbabantay ng OpenAI ay humantong din sa pagtuklas ng dalawang iba pang network, Bet Bot at Corrupt Comment, na ginamit ang API nito upang bumuo ng mga pag-uusap sa X at i-link ang mga user sa mga site ng pagsusugal o bahain ang social media ng mga ginawang komento.

Ang Papel ng AI sa Microtargeted Misinformation

Ang Generative AI ay may potensyal na maging armas hindi lamang para sa malawakang disinformation, kundi pati na rin para sa microtargeting. Ayon sa kamakailang ulat ng cybersecurity firm na Sophos, maaaring manipulahin ang AI upang maikalat ang napaka-personalized na maling impormasyon sa pulitika sa pamamagitan ng mga email, website, at pekeng persona. Sa pamamagitan ng maingat na pag-angkop ng mga mensahe sa mga partikular na punto ng kampanya, maaaring linlangin ng mga aktor ng pagbabanta ang mga botante sa isang bagong antas, posibleng baguhin ang mga resulta ng halalan o pag-indayog ng mga opinyon gamit ang maling impormasyon.

Nagbabala ang mga mananaliksik na nakakagambalang madaling iugnay ang anumang pampulitikang pigura o kilusan sa isang paninindigan sa patakaran na maaaring hindi talaga nila sinusuportahan, naghahasik ng kalituhan sa mga botante at nakakasira sa demokratikong proseso.

Ang Pangako ng OpenAI sa Cybersecurity

Habang nag-aalok ang AI ng mga hindi pa nagagawang pagkakataon para sa pag-unlad, nagpapakita rin ito ng mga seryosong hamon sa seguridad. Napatunayan ng OpenAI na nasa tungkulin ang pagkontra sa mga malisyosong pagtatangka upang pagsamantalahan ang teknolohiya nito. Gayunpaman, malamang na magpapatuloy ang larong pusa-at-mouse sa pagitan ng mga eksperto sa cybersecurity at cybercriminal.

Ang mga pagsisikap ng OpenAI na guluhin ang higit sa 20 mga pandaigdigang kampanya sa taong ito ay nagmamarka ng isang makabuluhang tagumpay, ngunit ang laban ay malayong matapos. Habang nagbabago ang AI, gayundin ang mga taktika na ginagamit ng mga aktor ng pagbabanta. Ang patuloy na pagbabantay at pagbabago ay magiging susi sa pagtiyak na ang AI ay nananatiling isang puwersa para sa kabutihan, sa halip na isang tool para sa digital na panlilinlang.