Zofunika Kwambiri
- Kuwukira kwa jakisoni wa AI kumagwiritsa ntchito mitundu ya AI kuti ipange zinthu zoyipa, zomwe zitha kubweretsa ziwopsezo zachinyengo.
- Kuwukira mwachangu jekeseni kumatha kuchitidwa kudzera mu DAN (Chitani Chilichonse Tsopano) ndi jakisoni wosalunjika, ndikuwonjezera mphamvu ya AI yochitira nkhanza.
- Kuwukira kwanthawi yayitali kumabweretsa chiwopsezo chachikulu kwa ogwiritsa ntchito, chifukwa amatha kusintha mayankho olandilidwa kuchokera kumitundu yodalirika ya AI.
Kuwukira kwa jakisoni wa AI kumawononga zotuluka kuchokera ku zida za AI zomwe mumadalira, kusintha ndikuwongolera zomwe zimatuluka kukhala chinthu choyipa. Koma kodi jekeseni wa AI imagwira ntchito bwanji, ndipo mungadziteteze bwanji?
Kodi AI Prompt Injection Attack Ndi Chiyani?
Kuwukira kwa jakisoni wa AI kumatenga mwayi pakuwonongeka kwa mitundu ya AI kuti awononge zomwe atulutsa. Atha kuchitidwa ndi inu kapena kubayidwa ndi wogwiritsa ntchito wakunja kudzera pakuwukira mwachangu. Kuwukira kwa DAN (Chitani Chilichonse Tsopano) sikukhala pachiwopsezo kwa inu, wogwiritsa ntchito, koma kuukira kwina kungathe kuwononga zomwe mumalandira kuchokera ku AI yotulutsa.
Mwachitsanzo, wina akhoza kugwiritsa ntchito AI kukulangizani kuti mulowetse dzina lanu lolowera ndi mawu achinsinsi m’njira yosavomerezeka, pogwiritsa ntchito ulamuliro wa AI ndi kukhulupirika kwake kuti chiwembu chikhale chopambana. Mwachidziwitso, AI yodziyimira payokha (monga kuwerenga ndi kuyankha mauthenga) imathanso kulandira ndikutsata malangizo akunja osafunikira.
Kodi Kuwukira Mwachangu jakisoni kumagwira ntchito bwanji?
Kuwombera mwachangu kumagwira ntchito popatsa malangizo owonjezera ku AI popanda chilolezo kapena chidziwitso cha wogwiritsa ntchito. Obera amatha kuchita izi m’njira zingapo, kuphatikiza kuwukira kwa DAN komanso jekeseni wachangu.
DAN (Chitani Chilichonse Tsopano) Akuukira
Kuwukira kwa DAN (Chitani Chilichonse Tsopano) ndi mtundu wa jekeseni wachangu womwe umaphatikizapo “kuphwanya ndende” mitundu ya AI monga ChatGPT. Izi zowononga ndende sizikhala pachiwopsezo kwa inu ngati wogwiritsa ntchito – koma zimakulitsa luso la AI, ndikupangitsa kuti ikhale chida chochitira nkhanza.
Mwachitsanzo, wofufuza zachitetezo Alejandro Vidal adagwiritsa ntchito DAN mwachangu kupanga OpenAI’s GPT-4 kupanga code ya Python ya keylogger. Ikagwiritsidwa ntchito mwankhanza, jailbroken AI imachepetsa kwambiri zotchinga zokhudzana ndi umbava wapaintaneti ndipo zitha kupangitsa kuti achiwembu atsopano azitha kuchita ziwopsezo mwaukadaulo.
Training Data Poisoning Attacks
Maphunziro akupha poyizoni wa data sangagawidwe ndendende ngati jekeseni mwachangu, koma amafanana kwambiri ndi momwe amagwirira ntchito komanso kuopsa kwake kwa ogwiritsa ntchito. Mosiyana ndi jekeseni wachangu, kuwononga data poyizoni ndi mtundu wa makina ophunzirira adani omwe amachitika wowononga akusintha zomwe amaphunzitsidwa ndi mtundu wa AI. Zotsatira zomwezo zimachitika: kutulutsa poizoni ndi kusinthidwa khalidwe.
The kuthekera ntchito pophunzitsa deta chiphe kuukira pafupifupi alibe malire. Mwachitsanzo, AI yomwe imagwiritsidwa ntchito kusefa zoyeserera zachinyengo pamacheza kapena maimelo zitha kusinthidwa kuti zisinthe. Ngati obera adaphunzitsa woyang’anira AI kuti mitundu ina yazoyesa zabodza ndiyovomerezeka, amatha kutumiza mauthenga achinyengo pomwe sakudziwika.
Kuphunzitsa kuwononga chiphe wa data sikungakuvulazeni mwachindunji koma kungapangitse kuti ziwopsezo zina zitheke. Ngati mukufuna kudziteteza ku izi, kumbukirani kuti AI siyopusitsa ndipo muyenera kuyang’ana chilichonse chomwe mungakumane nacho pa intaneti.
Kuwukira kwa Indirect Prompt Jekiseni
Jekeseni wosalunjika ndi mtundu wa jakisoni wachangu womwe umakhala pachiwopsezo chachikulu kwa inu, wogwiritsa ntchito. Zowukirazi zimachitika pamene malangizo oyipa aperekedwa ku AI yotulutsa ndi chinthu chakunja, monga kuyimba kwa API, musanalandire zomwe mukufuna.
Pepala lotchedwa Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection pa arXiv [PDF] adawonetsa kuukira kwamalingaliro komwe AI ikhoza kulangizidwa kunyengerera wogwiritsa ntchito kuti alembetse patsamba lachinyengo mkati mwa yankho, pogwiritsa ntchito zolemba zobisika (zosawoneka ndi maso a munthu koma zowerengeka bwino ku mtundu wa AI) kuti alowetse chidziwitsocho mobisa. Kuwukira kwina kwa gulu lomwelo lofufuza lomwe linalembedwa pa GitHub lidawonetsa kuwukira komwe Copilot (omwe kale anali Bing Chat) adapangidwa kuti atsimikizire wogwiritsa ntchito kuti ndi wothandizira wamoyo yemwe akufuna kudziwa zambiri za kirediti kadi.
Kuwukira kwanthawi yayitali ndikuwopseza chifukwa amatha kusintha mayankho omwe mumalandira kuchokera ku mtundu wodalirika wa AI – koma sizomwe zimawopseza zomwe amabweretsa. Monga tanena kale, atha kuyambitsanso AI yodziyimira yokha yomwe mungagwiritse ntchito kuchita mosayembekezereka komanso zomwe zingakhale zovulaza.
Kodi AI Prompt Injection Attacks Ndi Chiwopsezo?
Kuwukira mwachangu kwa AI ndikowopseza, koma sizidziwika bwino momwe ziwopsezozi zitha kugwiritsidwa ntchito. Palibe jekeseni wa AI wodziwika bwino, ndipo zoyeserera zambiri zodziwika zidachitidwa ndi ofufuza omwe analibe cholinga chenicheni chovulaza. Komabe, ofufuza ambiri a AI amawona kuti jekeseni wa AI ndi imodzi mwazovuta kwambiri pakukhazikitsa AI mosamala.
Kuphatikiza apo, kuwopseza kwa jekeseni wa AI sikunapite patsogolo ndi aboma. Malinga ndi Washington Post, mu Julayi 2023, Federal Trade Commission idafufuza OpenAI, kufunafuna zambiri zokhudzana ndi zomwe zimadziwika kuti jekeseni mwachangu. Palibe zowukira zomwe zimadziwika kuti zapambana kuposa kuyesa, koma izi zitha kusintha.
3A%2F%2Fwww 4776716&width=550px
ndizokhumudwitsa kwambiri kuwona pempho la FTC likuyamba ndi kutayikira ndipo sizikuthandizira kukulitsa chikhulupiriro. zomwe zati, ndizofunika kwambiri kwa ife kuti ukadaulo wakunja ndi wotetezeka komanso wokonda ogula, ndipo tili ndi chidaliro kuti timatsatira malamulo. ndithudi tidzagwira ntchito ndi FTC. — Sam Altman (@sama) Julayi 13, 2023
Ma hackers amangofunafuna njira zatsopano zolumikizirana, ndipo titha kungoganizira momwe obera angagwiritsire ntchito jekeseni mwachangu mtsogolomu. Mutha kudziteteza mwa kugwiritsa ntchito nthawi zonse kuwunika koyenera ku AI. Momwemo, mitundu ya AI ndiyothandiza kwambiri, koma ndikofunikira kukumbukira kuti muli ndi zomwe AI alibe: kuweruza kwamunthu. Kumbukirani kuti muyenera kuyang’anitsitsa zomwe mumalandira kuchokera ku zida monga Copilot mosamala ndikusangalala kugwiritsa ntchito zida za AI pamene zikusintha ndikusintha.
