James Corbett: Adevaratele pericole ale dominatiei Chatbot-ului

Last Updated on March 23, 2023 by Patrick

Primul dintre pericolele foarte reale ale utilizarii crescande a tehnologiei chatbot: daca ati considerat drept enorma cantitatea de date pe care a fost capabila sa o adune o companie precum Google, asteptati pana veti vedea ce vor face OpenAI, Microsoft si Google cu conversatiile cu care oamenii alimenteaza in prezent masinile de colectare a datelor cunoscute sub numele de chatboti.

Va intrebati ce vor face cu aceste date, care vor fi legate de numarul de telefon, adresa IP, amprenta browser-ului, istoricul cautarilor, cookie-urile, postarile de pe retelele de socializare si alte un milion de date? Posibilitatile sunt nelimitate, dar crearea de deepfake-uri perfect convingatoare ale oricarui individ ar fi un bun punct de plecare.

Dupa cum distinsii mei cititori vor fi stiind deja, fara indoiala, nu putem avea incredere ca avatarurile digitale cu care interactionam in forumurile online si pe retelele de socializare sunt oameni reali si nu avataruri fictive care au in spate niste guerilla cibernetici care au militarizat internetul cu mult timp in urma. Dar cel putin putem fi in mod rezonabil siguri ca acel apel Zoom pe care tocmai l-am avut cu matusa Florence din Wyoming a fost o conversatie reala cu o fiinta umana in carne si oase.

Ei bine, in viitorul foarte apropiat, nici un podcast, nici un videocast, nici un video de pe TikTok, nici un mesaj, nici un apel Zoom, nici o comunicare online de orice fel nu va fi libera de suspiciunea ca nu interactionati de fapt cu o fiinta umana reala.

Nu, nu am (si acum probabil ca nu o voi face niciodata) creat nici o versiune deepfake a mea folosind ChatGPT sau orice alta tehnologie de inteligenta artificiala, dar cineva probabil ca o va face la un moment dat. La naiba, au existat deja nu una, nu doua, nu trei, ci patru persoane care m-au cautat pe ChatGPT sau au cerut programului sa scrie ceva in stilul meu, si, in acest al doilea caz – o instructiune de a scrie o opinie despre tehnologia geoingineriei in stilul lui James Corbett – rezultatul a fost unul decent:

„In ceea ce-l priveste pe James Corbett, este un jurnalist si cercetator independent care si-a exprimat scepticismul cu privire la beneficiile potentiale ale geoingineriei si care a criticat lipsa de transparenta si responsabilitate a acestor tehnologii. Pe baza opiniilor sale, este probabil ca el sa impartaseasca un sentiment similar cu al meu si sa creada ca guvernul trebuie sa ia mai multe masuri pentru a informa si proteja publicul in ceea ce priveste geoingineria.”

Toate bune, cel putin pana la partea cu „guvernul trebuie sa ia mai multe masuri”.

Da, totul va incepe cu deepfake-uri de celebritati, dar in curand vor aparea noi grupari de cyber-teroristi care vor face deepfake-uri cu politicieni pentru a destabiliza tarile, sau deepfake-uri cu directori de corporatii pentru a face ravagii pe pietele economice, sau deepfake-uri cu oficialii de banci pentru a obtine accesul la bazele de date bancare, sau deepfake-uri cu matusa Florence pentru a va frauda de 100 dolari. Si, asa cum au intuit deja unii dintre cititorii Corbett Report mai perceptivi, acest lucru va conduce la „solutia” prefabricata ideala: o identitate digitala pentru a accesa internetul! In sfarsit, putem dovedi online cine suntem cu adevarat! (De fapt, veti fi obligat in orice moment sa dovediti cine sunteti online pentru a putea ramane online, dar asta e informatia pe care nu ar trebui sa o cititi printre randuri.)

Dar poate chiar mai rau decat sa afli ca un chatbot si o tehnologie deepfake au generat un episod complet fals din podcastul tau preferat este un alt scenariu, cu mult mai ingrijorator. Acesti „chatboti” – care vor fi in curand lansati ca „asistenti digitali” si vor deveni de-acum inainte la fel de omniprezenti ca Siri si Alexa – vor fi capabili sa va determine aprecierile, interesele, punctele slabe si sa inceapa sa genereze continut complet nou (podcasturi noi cu oameni care nici macar nu exista) spunand lucruri pe care le veti gasi la nesfarsit distractive. Veti trai in curand intr-o bula cu filtre atat de unica incat aceasta va exista in intregime pentru a va captiva… iar oamenii care cred ca pot rezista unui astfel de continut vor fi tocmai oamenii cel mai usor acaparati de acesta.

Aldous Huxley

De fapt, asa cum Huxley se temea de minunata lume noua a divertismentului si diversiunilor mai mult decat se temea de tirania piciorului in gura de tip 1984, tot asa s-ar putea ca si spaima noastra de razboiul apocaliptic impotriva robotilor sa fie deplasata. Poate ca nu ar trebui sa ne temem de confruntarea in stil Terminator dintre Skynet si Rezistenta atat de mult incat ar trebui sa ne temem de lumea lui Spike Jonze din filmul Her, o lume in care „sistemele de operare” devin mai reale pentru noi decat oamenii, si a avea un program de calculator drept partener romantic va deveni un lucru perfect obisnuit.

Stiu, stiu, draga cititorule. Aceste lucruri incep sa sune atat de departe de grijile noastre curente incat v-ati pierdut interesul. Mi-as dori sa fiu la fel de convins ca nu suntem pe cale sa trecem un prag, dar ma tem ca alunecam cu capul inainte si razand fara griji in metaversul hiperrealului.

Spike Jonze

Haideti sa ne intelegem. Ce-ar fi sa revizuim acest articol in 2030? Daca nu se intampla nimic apropiat de scenariul pe care l-am prezentat aici, imi voi manca fericit palaria, voi recunoaste ca m-am inselat complet si total, voi recunoaste ca intr-adevar nu este nimic de care sa va faceti griji in acest scenariu si va voi reaminti eu insumi sa priviti orice altceva voi spune vreodata cu scepticism. Ce ziceti?

Traducere si adaptare dupa corbettreport.substack.com.