Taylor Swift ishte viktima e fundit. Ajo vështirë se ishte e para, as nuk do të jetë e fundit.
Po flasim për “deepfake”, media të manipuluara në mënyrë dixhitale që zëvendësojnë me mjeshtëri ngjashmërinë e një personi me një tjetër.
Individët keqdashës mund të krijojnë video të rrejshme të personazheve të famshëm, politikanëve – dhe ndoshta edhe juve – duke thënë dhe bërë gjëra që personi i vërtetë nuk do t’i thoshte apo bënte kurrë. Mendo për:
- Politikanët që mbajnë fjalime të zjarrta që janë tërësisht të rreme (një “Joe Biden” i rrejshëm thirri 40,000 votues në zgjedhjet e fundit paraprake në New Hampshire duke u kërkuar atyre që të mos votojnë, ndërsa një “deepfake” Volodymyr Zelensky u bëri thirrje trupave ukrainase të dorëzonin armët).
- Të famshëm që mbështesin kauzat nga të cilat do të kishin ikur shumë në jetën reale.
- Dhe, në rastin e Swift, fytyra e saj në trupin e dikujt tjetër si pjesë e një videoje pornografike.
Deepfakes kanë pushtuar edhe Zoom; personi me të cilin po bisedoni me video mund të mos jetë real. Ishte pikërisht ai lloj Deepfake i Zoom-it që së fundmi mashtroi një institucion financiar të paidentifikuar në Hong Kong nga 25.6 milionë dollarë.
Deepfakes kanë qenë një problem për disa vite, por teknologjia është bërë mjaft e mirë sa që tani edhe përdoruesit e rastësishëm të internetit mund të krijojnë një falsifikim të thellë.
Dhe me Taylor Swift që dominonte bisedën kulturore, rrëmbimi i fytyrës së saj për aktivitete të papërmendura ishte vetëm çështje kohe.
Pse po ndodh kjo? Paratë, sigurisht.
Për shembull, ElevenLabs, një kompani amerikane softuerësh që përdor inteligjencën artificiale (AI) për të kopjuar zërat e njerëzve që thonë gjëra që ata kurrë nuk i kanë thënë, u vlerësua kohët e fundit në 1.1 miliardë dollarë.
“Ne jemi vetëm në fillimin e pushtimit të mashtrimit,” thotë Michael Matias, CEO i Clarity.ai, një izraelit. startup duke synuar plagën e rrejshme të thellë.
Transparenca ka rëndësi
Clarity në thelb krijon një inxhinier të kundërt të një fallcoje të mundshme.
“Ne zbërthejmë imazhet, videon dhe zërin dhe përdorim AI për të identifikuar nëse kjo media është krijuar duke përdorur AI gjeneruese, si ChatGPT,” shpjegon Matias.
“Ne kemi një sërë modelesh për të përcaktuar nëse ky është një kërcënim. Cili kuadër dhe cili kafshim zëri tregojnë një anomali në manipulimin e informacionit?”
Clarity krijon modele të veçanta për çdo deepfake që gjen.
“Ne rregullojmë në mënyrë dinamike inteligjencën artificiale në kohë reale bazuar në atë që shfaqet,” vëren Matias.
“Nëse një model është i vjetëruar ose nuk është më i rëndësishëm, sistemi vetë-përshtatet. Ne nuk duhet të ritrajnojmë 600 miliardë parametra – kjo do të ishte shumë e ngadaltë! Theksi është në ndërtimin e një infrastrukture që mund të na lajmërojë automatikisht.”
Produkti i Clarity ka për qëllim të integrohet në sistemet mbështetëse në internet, media sociale, lajme, qeveri dhe organizata financiare; nuk është një mjet konsumatori.
Nëse një video zbulohet nga Clarity si e rreme, klienti mund ta heqë atë ose të vendosë një etiketë paralajmëruese se ajo që po shikoni është krijuar nga AI.
“Unë parashikoj një botë ku pamjet autentike dhe pamjet e falsifikuara të rreme jetojnë krah për krah, të dyja në rregull, por ka raporte transparence,” thotë Matias.
Sulmi ndaj demokracisë
E themeluar në vitin 2022 me Natalie Fridman, CTO dhe Gil Avrieli, COO, Clarity ka rreth 15 punonjës dhe ka mbledhur 16 milionë dollarë në shkurt.
“Sot, çdo kompani e lajmeve dhe mediave po ekspozohet ndaj përmbajtjeve të rreme që synojnë të ndryshojnë perceptimin e publikut,” ankohet investitori engjëll i Clarity, Chris Marlin, ish-kreu i strategjisë për CNN.
Një tjetër investitor engjëlli i Clarity është Prof. Larry Diamond, i cili ligjëron studimet e demokracisë në Universitetin e Stanfordit, ku Matias fitoi një BS në shkenca kompjuterike gushtin e kaluar.
“Ai do të emocionohej se si demokracia është kaq kritike për shoqërinë dhe se si po shkatërrohet, dhe ne duhet të bëjmë diçka për të,” i thotë Matias ISRAEL21c.
“Kemi krijuar një marrëdhënie të veçantë. Një ditë, i tregova “deepfakes”. “Ky është një sulm miliarda dollarësh ndaj demokracisë,” më tha ai.
Ndërsa ishte në Stanford, Matias shkoi të punonte për Fondin e Përpjekjeve të Inovacionit të Eric Schmidt, ish-CEO i Google, ku filloi të krijonte atë që do të bëhej Clarity.
“Çdo ditë, shkalla e evolucionit për deepfakes rritet – është një super-evolucion. Unë iu drejtova kompanive, qeverive dhe universiteteve të ndryshme dhe pyeta: ‘Si do ta zgjidhni këtë?’ Ata po bënin disa gjëra, por ishte e qartë se po lëviznin shumë më ngadalë se shkalla e inovacionit nga ana e krijuesve të “deepfake”. Një muaj përpara nisjes publike të ChatGPT, vendosa të ndaloja gjithçka që bëja – duke përfshirë studimin – për të trajtuar këtë problem.”
Qartësia përqendrohet më pak në aspektin e veshur paksa të panikut të falsifikimit të thellë dhe më shumë në atë se si “deepfakes” mund – dhe tashmë po – ndikojnë në politikë dhe demokraci.
Matias parashikon se “çdo konsumator në SHBA do të përjetojë një falsifikim të thellë në kontekstin e zgjedhjeve të ardhshme në SHBA përpara se të shkojnë për të votuar”.
Kur godet afër shtëpisë
Pas masakrës së 7 tetorit dhe rrëmbimit të izraelitëve nga terroristët e Hamasit, Clarity ka shpenzuar një kohë të konsiderueshme për të luftuar dezinformatat rreth luftës.
“Kur bëhet fjalë për negociatat dhe pengjet dhe këto situata shumë delikate, të bazuara në identitet, falsifikimet e thella janë një metodë në të cilën ju ndryshoni realitetin dhe i bëni njerëzit të mendojnë, përmes inxhinierisë sociale, se ndodhi diçka që me të vërtetë nuk ndodhi,” tha Matias për The. Times of Israel.
Videot e postuara në platformat e mediave sociale si TikTok mund të “ndryshojnë diskursin publik të asaj që ndodh”, vëren Matias.
Kur CBS News analizoi një mijë video të dërguara nga njerëz që supozohet se ishin në terren në Izrael ose Gaza, vetëm 10% e atyre paraqitjeve u gjetën të vërteta. Pjesa tjetër ishin ose falsifikime të thella ose të rrëmbyera nga konflikte të tjera (siç janë imazhet e shkatërrimit të ripërdorura nga konfliktet në Siri dhe Irak).
“Lufta ka qenë një katalizator i madh për ne,” thotë Matias. “Na ka detyruar të avancojmë teknologjinë tonë më shpejt nga sa kishim menduar se do të bënim, për t’iu adresuar të gjitha mediave të dala nga lufta. Qeveria kishte nevojë për teknologjinë menjëherë. Ata nuk mund të prisnin për muaj apo vite.”
Sa krijues mund të jeni?
Matias, fitues i çmimit “Ndërtuesit dhe Novatorët” të Goldman Sachs 2023, shërbeu në njësinë e inteligjencës së sinjalit 8200 të Forcave të Mbrojtjes të Izraelit (ekuivalente me Agjencinë e Sigurisë Kombëtare të SHBA) përpara fillimit të Clarity.
Lufta e ka prekur atë personalisht dhe profesionalisht. “Unë njoh njerëz që u vranë në festivalin e muzikës Supernova,” thotë ai. “Unë kam familjarë dhe punonjës në rezervat (ushtria). Unë jam në rezervë.”
Prejardhja e tij ushtarake nuk është e rastësishme për kompaninë.
Matias i thotë ISRAEL21c se kur u kthye nga Palo Alto për të formuar Clarity, “Doja të sillja miqtë dhe kolegët e mi nga ushtria për të na ndihmuar të përballonim këtë sfidë. Izraelitët marrin përvojë masive në ushtri duke përdorur metodologji të ndryshme që pak në botë mund t’i përdorin. Ne maten me shpejtësinë, efikasitetin dhe përshtatshmërinë.
“Asnjë ditë nuk ishte si një ditë më parë në IDF. Ju mësoni të bëheni të mbështetur te vetja, të dini se mund të kapërceni çdo sfidë, veçanërisht ato teknologjike. Është një mentalitet i veçantë që nuk e kam parë diku tjetër – aftësia për t’ju besuar do ta zgjidhë problemin. Pra, atëherë bëhet një pyetje se sa kreativ mund të jesh.”
Deepfakes janë si viruset
Ndërsa Clarity ka konkurrencë në zbulimin dhe ndalimin e falsifikimit të thellë (Reality Defender dhe Sentinel kanë mbledhur respektivisht 15 dhe 2,5 milionë dollarë), Matias thotë se një nga dalluesit kryesorë të Clarity është se ai përdor parimet e sigurisë kibernetike, duke i trajtuar falsifikimet e thella si “viruse” dhe “në zhvillim”. mjetet për të inokuluar flukset e punës mediatike.”
Produkti ka klientë që paguajnë dhe është i vendosur në Izrael dhe jashtë saj. Klientët e Clarity mund të zgjedhin një abonim ose një plan me pagesë. Clarity ofron zgjidhjen e saj pa kosto për gazetarët për të verifikuar falsifikimet e mundshme që hasin.
A mund të adresojë zgjidhja e Clarity shqetësimet për pornografinë e Taylor Swift?
Po, thotë Matias, por aq sa “përmbajtja pornografike mund të shkatërrojë jetën e një personi, një falsifikim i thellë i një kandidati presidencial mund ta çojë një shoqëri të tërë në një drejtim tjetër”.
Ai i thotë ISRAEL21c se “ne e shohim veten duke u marrë me të dyja (llojet) e rasteve me kalimin e kohës. Por këtë vit, ne do të jemi shumë të fokusuar te zgjedhjet”.
Për më shumë informacion, klikoni këtu.