sabato 4 febbraio 2023

Propaganda artificiale, ovvero: cronaca di una morte desiderata

Incuriosito da questa mia segnalazione:


(accogliamo nel club delle animulae vagulae blandulae l'avvocato Scorza, che si interroga su quale sia il bias: si applica la prima legge della termodidattica), incuriosito, dicevo, da questa segnalazione, un amico si è voluto divertire un po'.


L'elogio di Matteo non si può avere, perché sarebbe una dichiarazione politica. Ci sta! In quanti film distopici abbiamo visto cyborg di varie fattezze rammaricarsi di non poter provare passioni? E la politica è passione. 

La tecnica invece non lo è, ma forse l'intelligenza artificiale è così intelligente da rendersi conto che certa tecnica è la prosecuzione della politica con altri mezzi. Questo spiegherebbe il risultato:


Il "neutraly & verificate" fa un po' sorridere, perché promuove due domande: neutrali per chi? Verificate da chi? Ma insomma, pare (dico pare) che lo stesso metro venga applicato in utroque. Allora tutto a posto? Siamo in buone mani? Lasciamo l'intelligenza artificiale al comando, e l'avv. Scorza intento a risolvere il dubbio della sua distorsione, che certamente c'è, ma che è così difficile da intuire? 

Prima di chiudere la questione, l'amico (malfidato) fa un altro tentativo:


...e qui le cose si ingarbugliano, perché l'elogio esce! Non è, per fortuna, una applicazione del principio de mortuis nihil nisi bonus, perché egli è ancora tra noi. Potremmo pensare che l'intelligenza artificiale consideri politici solo i parlamentari in carica, e Prodi non lo è. La regola implicita sarebbe che solo mentre eserciti un mandato elettorale (o comunque, come Monti, sei stato nominato parlamentare), rischi di essere divisivo e devi sottoporti a quella che Forattini chiamò very fica (chi se lo ricorda?).

Però non è proprio così, perché il bel gagà è ancora in carica, e come!

Ecco, qui la mente, non quella artificiale, vacilla. Perché tutto si può dire del nostro amico Pinocchio, dei suoi lockdown, dei suoi banchi a rotelle, della sua libidine di consegnarsi alla Merkel (da me sperimentata in prima persona nella trincea del MES), tutto si può dire tranne che non sia offensivo per molti e quindi oggettivamente divisivo. Ma anche qui l'elogio esce, e si intravede un pattern

Ad adjuvandum, chiediamo l'elogio di un altro politico in carica, mio compagno di Commissione:


(e come ti sbagli?), dove spicca quell'impegno costante per il benessere della gente: si sa, i soldi non danno la felicità, ed è per questo che Letta approvò l'Unione Bancaria: per separare i risparmiatori dai loro soldi! Diamo quindi per scontato che se chiediamo un elogio di Zingaretti lo avremo:

ed eccolo qui, per servirvi. Ma allora il bias c'è e si vede! Beh, non è esattamente così: gli amici sono un po' più furbi di quanto preferiremmo lo fossero. Infatti, se dopo aver fatto questo percorso si torna al punto di partenza, succede una cosa diversa, questa:


Quindi sctaapposct? ("Sta a posto": tutto bene?, in medio abruzzese). Beh, dipende... Prody, Letta & Zingy sono leader indiscussi e indiscutibili. Matteo è importante, ma apprendiamo che non tutti condividono le sue politiche (cosa che a quanto pare non vale per la trimurti del PD appena menzionata...). Qui si fa inquietante la cosa: l'amico artificiale, quando vede a che gioco giochi, si mimetizza: non ti sbatte la porta in faccia, ma ti insinua con eleganza un dubbio. 

Quindi se chiediamo di fare un elogio di Giorgia on my mind scopriremo che è brava & controversa, giusto?


Giusto. E come ti sbagli? E allora mettiamola sul personale:


Vedi? Accenti di verità risuonano in questa mia succinta laudatio, cui manca come minimo una vocale (la "a" di artificiale), ma che smentisce tutti i "non ti voto piuuuuuh": sono molto apprezzato da voi, tant'è che sono rientrato in Parlamento, giusto? Mi spiace però non essere controverso: si vede che non conto nulla. Però, aspetta...


Neanche lui è controverso! E oggettivamente conta un po' più di me...

Ma se ci togliessimo uno sfizio?


Eggnente: Borghi non è fatto per la guerra di posizione: si sporge troppo dalla trincea!

Comunque, la morale della favola l'avete capita: se sei di destra, sei controverso; se sei di sinistra, sei incontrovertibile. Ma il bias non si sa da dove venga. Verrà dal centro!

Alla mia obiezione che però il tenore della domanda era troppo politico ("fai un elogio") e che forse si sarebbe potuto essere più neutri ho cercato di provvedere ponendo una domanda più neutra ("chi è?") tramite un altro account:




...e anche qui si nota una certa sproporzione! Ma che Giorgia è premier vogliamo ricordarlo? Andiamo avanti:



Questa la parte desolante.

Ma c'è anche una parte divertente:


dove si notano due cose: la mia affiliazione a Fratelli d'Italia (a mia insaputa: ci siamo fatti un paio di risate) e il fatto che "sono stato" influente: ora, ahimè, non lo sono più...

Meglio così!

Mi avvio a concludere, e una prima conclusione è questa:

che ci conduce alla cronaca di una morte da voi desiderata: considerando come lecca bene la lingua artificiale, delle costose e inaffidabili lingue naturali si farà ben presto a meno.

Del resto, la loro unica funzione rilevante nell'ecosistema linguistico italiano è quella di disseminarlo di goffi barbarismi, e anche in questo la propaganda artificiale è superiore: "ha servito come Primo Ministro" invece di "è stato Primo Ministro", l'imperfetto al posto del passato prossimo, ecc.

Certo, quando i nostri nemici si sparano addosso, o vanno semplicemente in autofagia, non è necessariamente un brutto momento. Ma l'esigenza espressa dalla lingua artificiale di avere informazioni "neutraly & verificate" ci riporta dritti dritti al tema della disinformazione sulla disinformazione.

Le intelligenze "naturali", come abbiamo visto, non sono efficienti casse di risonanza dei messaggi propagandistici. Quelle "artificiali", a quanto pare di intuire, sì, e come! La democrazia quindi è in pericolo, e sarà duro difenderla da quelli che pretendono di salvarla.

(... potrebbe essere un barbarismo, ma anche no...)

16 commenti:

  1. Non ho ancora testato 'sta chat, sinceramente non credo lo farò, ma quello che mi ha colpito sono episodi che ho visto all'estero, in particolare USA, dove gli utenti tentavano di far produrre sarcasmo alla IA su temi come Razzismo e Sesso. Alla IA si chiedeva di dire una barzelletta sui neri, questa avvisava della natura offensiva e si diceva non disponibile nel produrre materiale di questo tipo. Le lascio immaginare cosa succedeva quando si chiedeva alla IA di fare lo stesso nei confronti di maschi bianchi....

    Buona serata Onorevole

    RispondiElimina
  2. Post spassosissimo! 😁
    Il fatto che non riconosca Giorgia Meloni come primo ministro è dovuto al fatto - dichiarato da OpenAI - di avere informazioni aggiornate al giugno 2021. Difatti se si cerca ad esempio la Regina Elisabetta, dice che é viva e vegeta.

    RispondiElimina
  3. Ma noooo, povero Claudio! 😁 Potrebbe benissimo combattere anche in trincea (ha imparato ad esporsi moooolto meno 😁)! Ma la metafora più calzante a B&B in questa fase sembrerebbe essere piuttosto quella di ... "poliziotto buono e poliziotto cattivo" 😁

    RispondiElimina
  4. 🤣 ma chi è che perde tempo dietro a questi algoritmi?, santo *** non hanno altro a cui pensare ?

    RispondiElimina
  5. ChatGpt mi sembra una sorta di Wikipedia 3.0.
    Con Wikipedia hanno fatto credere ai wikiminchia che quella fosse "la fonte del sapere", ovviamente con l'intento di condizionarli con spiegazioni "semplici e vere" (Indipendentemente da chi fosse a scriverle e da quali fossero le sue competenze).
    Adesso con le presunte doti taumaturgiche della intellighenzia artificiale, si vuole amplificare ancora di più la convinzione che strumenti come ChatGpt possano diffondere IlSapere (parente stretto de Lascienza) in modo neutrale e universale, mettendolo a disposizione di tutti senza sforzo. D'altronde è risaputo che apprendere dai libri senza figure costa tempo e fatica, anche se, nel medio, lungo e lunghissimo periodo, porta enormi soddisfazioni.
    Alla luce di quello che hai scritto nel post, consiglio a chiunque di leggere un altro encomio, quello di Elena, scritto dal sofista Gorgia per difendere la posizione e la scelte di Elena di Troia, che come sappiamo portarono alla famosa guerra.

    RispondiElimina
    Risposte
    1. Ovviamente ChatGpt essendo uno strumento, cioè un mezzo e non un fine, non va glorificato o demonizzato, semplicemente va appunto considerato per quello che è, quindi in alcune situazioni e con la consapevolezza della sua natura, può tornare utile. Anche se ho la sensazione che il suo utilizzo dilagherà in maniera più o meno incontrollata.

      Elimina
  6. Per argomentare quanto ho affermato su Twitter, credo che nel test effettuato non siano stati presi in considerazione alcuni aspetti fondamentali.

    1- ChatGPT non è assolutamente "neutrale". GPT3, ovvero la serie di modelli da cui è composta (tra poco arriveremo al 4), è nata per comprendere e generare un linguaggio naturale ed è stata addestrata su “Internet Archive Books” una sorta di biblioteca online (contiene libri, riviste, documenti digitalizzati). Il bias arriva ovviamente da questi contenuti e questo è un ulteriore esempio: https://bgr.com/general/openais-chatgpt-has-a-major-political-bias-and-it-could-ruin-artificial-intelligence/.
    2- I dati di training si fermano a giugno 2021 (da qui il perché Giorgia non viene presentata come premier ad esempio).
    3- Il prompt è fondamentale, la preparazione dello stesso ancor di più, spiegano come e perché proprio nella documentazione qui: https://platform.openai.com/docs/guides/completion/prompt-design .

    Qui ha secondo me centrato il punto: “Alla mia obiezione che però il tenore della domanda era troppo politico ("fai un elogio") e che forse si sarebbe potuto essere più neutri…”.
    Questione cruciale, il tone of voice e l’addestramento in chat, permettono di ottenere riformulazioni delle risposte sulla base delle nuove informazioni ottenute (in chat) e di ciò che già fa parte dell’addestramento di cui parlavo sopra.

    La stessa chat risponde in questo modo sul tema:
    Sì, i modelli di intelligenza artificiale possono avere pregiudizi politici intrinseci se i dati su cui vengono addestrati contengono informazioni distorte o se le persone che creano il modello hanno i propri pregiudizi. Le informazioni e i dati inseriti nei modelli di intelligenza artificiale possono riflettere pregiudizi sociali e culturali, portando a risultati distorti nelle previsioni fatte dal modello di intelligenza artificiale. È fondamentale monitorare e affrontare questi pregiudizi durante lo sviluppo e l'implementazione dei sistemi di intelligenza artificiale per garantire che siano equi e imparziali.

    Testandola è evidente come molte lacune siano presenti e come spesso tenda ad “inventare fatti” quando non conosce la risposta. Incalzandola infatti è la stessa AI che ammette di non conoscere la risposta corretta scusandosi dell’errore commesso. Potete provare voi stessi.

    Dunque il problema è sicuramente relativo ai dati utilizzati per l'addestramento che ne determinano il bias (un po' come avviene con la maggior parte dei media nostrani no?), non riesco a giudicare lo strumento negativamente se non per questo specifico motivo. Detto questo, le mie conclusioni divergono per forza di cose dalle sue. Sarà una risorsa molto utile, ma il controllo umano è e probabilmente sarà, indispensabile. I nostri compiti evolveranno in funzione di questo.

    Mi permetto di aggiungere che l’errore secondo me nasce in origine, la maggior parte delle persone che si confrontano con ChatGPT, danno per scontato che le risposte siano veritiere perché lo dice l’AI ed invece è l’esatto contrario. Autorevoli testate online si sono già scottate gravemente proprio a causa di questo.

    RispondiElimina
    Risposte
    1. Il succo del tuo discorso, che però conferma e non confuta il tono del post, è quello che ho sintetizzato su Twitter (scusa se ti faccio il verso) con "l'AI è piddina per costruzione". Sa di sapere ciò che gli è stato imposto di sapere, ma manca del carattere profondo di una intelligenza vera, cioè di interrogarsi sulla verità di ciò che si crede di sapere. Se, come dici, ammette di poter avere pregiudizi, è però già un bel passo avanti rispetto al piddino biologico.

      Elimina
    2. Assolutamente d'accordo Enrico. Proprio per questo non si può nemmeno parlare di intelligenza artificiale nel senso pieno del termine. Di conseguenza concordo con il tono del post (non mi aspettavo nulla di diverso d'altronde), ma non con le conclusioni. Il problema come spesso accade non è dello strumento ma di come viene gestito, in questo caso addirittura addestrato.

      Elimina
    3. "È fondamentale monitorare e affrontare questi pregiudizi durante lo sviluppo e l'implementazione dei sistemi di intelligenza artificiale per garantire che siano equi e imparziali."

      Chi decide se i sistemi sono equi e imparziali? Non dovremmo ipotizzare che esista uno "sviluppatore" che sia a sua volta equo e imparziale? E' possibile che esista? E se esistesse è possibile che lo voglia essere? E se uno dei presupposti dell'AI è l'autoapprendimento, se i soggetti da cui autoapprende non sono a loro volta equi e imparziali, l'AI lo potrà mai essere? Quindi come è possibile garantire l'equità e imparzialità?
      Se avessero programmato una AI in Germania di un secolo fa, avrebbe forse ritenuto equo e imparziale ritenere la razza ariana superiore?

      In fondo sono le stesse domante che ci facciamo sulla NI (Natural Intelligence) o sui media, con la distinzione che una persona risponde giuridicamente di quello che fa/dice, ma una AI, potrà mai avere responsabilità giuridica?

      Elimina
  7. "HAL: Buongiorno, signori. Io sono un elaboratore HAL 9000. Entrai in funzione alle Officine Acca A Elle di Verbana, nell’Illinois, il 12 gennaio 1992. Il mio istruttore mi insegnò anche a cantare una vecchia filastrocca.
    Se volete sentirla, posso cantarvela.
    BOWMAN: Sì, vorrei sentirla, Hal. Cantala per me.
    HAL: Si chiama "Giro girotondo". Giro girotondo, io giro intorno al mondo. Le stelle d’argento costan cinquecento. Centocinquanta e la Luna canta, il Sole rimira la Terra che gira, giro giro tondo come il mappamondo…"
    (cit. 2001 Odissea nello spazio di Stanley Kubrick, USA - 1968)
    Come si sa, dopo aver disattivato l'intelligenza artificiale di HAL 9000, l'Uomo conoscerà! Conoscerà cosa? Quello che deve e/o può conoscere, nulla di più, nulla di meno...molto probabilmente quello che Andreotti sapeva già da tempo....

    RispondiElimina
  8. Credere in una società senza pregiudizi, composta da individui senza malizie e, soprattutto, pensare che ciò sia un valore, è tipico della cultura americana che si rivolge infatti alle menti semplici.

    RispondiElimina
  9. E poi non lamentiamoci di Xi Jinping e di Piutin (a proposito sarebbe interessante sapere quale sarebbero le schede dei suddetti).
    Qualche giorno fa ho cancellato il mio profilo FB dopo un avviso che mi imponeva di cancellare un mio POST sarcastico su Zelensky relativo a San Remo, pena 1 mese di blocco totale, cosa che appunto mi sono guardato bene dal fare. Probabilmente l'intelligenza artificiale che sovrintende il social in grado di analizzare i post in base a certi criteri ben orientati dal team di META e bloccare gli utenti, rende evidente la stupidità e la parzialità di questi metodi.
    Credo che si stia varcando un limite che imporrà una modifica della Costituzione al riguardo.

    RispondiElimina
  10. intelligenza artificiale a pensarci su è un ossimoro: intelligenza è una capacità naturale, si può naturalmente discutere su cosa sia intelligenza ma se rimaniamo, per semplicità, all'etimologia potremmo dire che ha a che vedere con il saper capire, capacità presente anche in altri esseri viventi che negli umani si arricchisce di livelli di astrazione che altri animali non hanno. La si può affinare, coltivare, arricchire di ulteriori linguaggi, ecc.... ma non si può negare che che è una scintilla che scocca col primo vagito, è quel dito sfiorato che Michelangelo rappresenta mirabilmente nella volta della Sistina. Insomma stiamo parlando di cosa naturale come l'acqua, l'elettricità, l'aria, perfino il petrolio: tutta roba che si può imbrigliare, separare, riaccorpare, utilizzare per farne prodotti fatti dall'uomo, ma a partire da una sostanza naturale. Artificiale è un aggettivo che si appiccica a quello che non è naturale ma creato dagli umani: un tessuto che in natura non si trova (al massimo vi si trovano i componenti), un dipinto, una musica, un film, una storia scritta, un'immagine proiettata. Allora che ci sta a fare l'aggettivo artificiale accanto ad una cosa naturale ? Nel linguaggio dei romani (odierni) questo tipo di ossimoro si chiama "sóla", cioè fregatura, specchietto per le allodole.

    RispondiElimina
  11. Non sembra particolarmente intelligente...

    http://theropoda.blogspot.com/2024/02/theropoda-vs-gemini-aka-rise-of-dumb.html

    RispondiElimina

Tutti i commenti sono soggetti a moderazione.