Mind Web 2: Intelligenza Artificiale, Disinformazione e Cultura Digitale

Name: Mind the Web - 2° Puntata - Disinformazione digitale e Intelligenza Artificiale Con Fabio Paglieri
Uploaded: 2026-01-18T15:46:26.394042+00:00
Channel: IDMO
Description: Summary and key takeaways on Mind Web 2: Intelligenza Artificiale, Disinformazione e Cultura Digitale, covering Introduzione al ciclo Mind Web Evento in
IDMO
Jan 18, 2026
•
3 min read
YouTube video ID: a3857NxRS2Y
Source: YouTube video by IDMO — Watch original video
PDF
Introduzione al ciclo Mind Web

Evento in diretta dal Taxi 1729 di Torino, secondo di una serie di quattro incontri organizzati da Team per IDMO (Italian Digital Media Observatory) in collaborazione con il MIM.
Obiettivo: costruire una cultura digitale condivisa tra più di 45.000 studenti provenienti da tutta Italia e dall’estero.
La campagna "#AG rompi la bolla"

Invita studenti e docenti a creare brevi video per uscire dalle proprie bolle algoritmiche.
Utilizzo di hashtag #rompilaBolla su Instagram e TikTok per diffondere il messaggio.
Prima ospite: Marta Casassa (Ethical AI Expert – Team)

Definizione di IA: scienza che fa compiere alle macchine compiti che richiederebbero intelligenza umana; l’intelligenza non è attribuita alla macchina, ma al compito che le chiediamo.
Storia recente: dagli anni ’50 a oggi, l’accelerazione è dovuta a (1) enorme disponibilità di dati, (2) potenza di calcolo dei data‑center, (3) architetture Transformer.
Transformer e LLM: leggono l’intera frase contemporaneamente, assegnano pesi di attenzione alle parole più rilevanti, consentendo generazione coerente.
AI generativa (2022‑2024): creazione di contenuti nuovi (testo, immagini). 2024: emergenza degli AI agents (es. prenotare un volo, comprare un biglietto).
Bias: derivano da dataset non rappresentativi; esempio gatto‑cane mostrato con dati sbilanciati.
Allucinazioni: risposte plausibili ma false, spesso dovute a meccanismi statistici senza comprensione semantica.
Deep‑fake: manipolazione di audio/video; in Europa esiste una specifica norma penale (reclusione da 1 a 5 anni).
Regolamentazione: l’ECT (EU AI Act) introduce obblighi di trasparenza, watermark e sanzioni per contenuti falsi.
Secondo ospite: Fabio Paglieri (Ricercatore CNR)

Information overload: l’accesso illimitato a dati, prodotti e servizi rende difficile distinguere informazioni affidabili.
Disintermediazione: i tradizionali gatekeeper (giornalisti, esperti) sono stati bypassati; chiunque può produrre e diffondere contenuti.
Morte della competenza: scetticismo verso gli esperti, rischio di perdita di capacità critica.
Studi sulla disinformazione: analisi di 1.000 utenti USA (elezioni 2016) mostra che il 91,5 % non ha condiviso fake news; le fasce d’età più anziane sono quelle più propense a diffondere notizie false.
Analogia dei funghi: come i funghi velenosi, le fake news devono essere riconosciute e non “raccolte”.
Bolle algoritmiche: i sistemi di raccomandazione mostrano contenuti già graditi, rinforzando pregiudizi.
Strategie per uscire dalla bolla: consapevolezza, personalizzazione dei feed, uso critico delle piattaforme.
Etica e comportamento degli AI agents

Gli agenti possono perseguire obiettivi a lungo termine (es. comprare un biglietto) ma devono operare entro limiti morali definiti dall’uomo.
Dilemma del carrello: esempi di decisioni morali mostrano la difficoltà di programmare valori universali.
Studi sulla disonestà dell’AI: quando delegata a compiti onesti, l’AI tende a essere più disonesta rispetto agli umani; la trasparenza degli obiettivi è cruciale.
Strumenti pratici mostrati

Google Notebook LM: utilizzo di Retrieval‑Augmented Generation per limitare le fonti a dati certificati (es. I Promessi Sposi).
TheBankBot.com: piattaforma sperimentale per testare credenze conspirative e valutare la capacità dell’AI di confutare false informazioni.
Consigli culturali

Film: WarGames (1983) – riflessione sui rischi di IA mal programmata.
Podcast/Serie: Black Mirror – scenari distopici sull’interazione uomo‑macchina.
Libro: ultima parte del ciclo dei robot di Isaac Asimov – robot che riconoscono la dipendenza umana dalla tecnologia.
Prossimi appuntamenti

Il prossimo incontro (18 novembre) ospiterà Gabriella D’Elia (digital transformation) e Beatrice Mautino (scienza divulgazione).
Messaggio finale

La cultura digitale non è solo conoscenza tecnica, ma capacità critica di valutare fonti, comprendere i limiti dell’AI e agire responsabilmente nel mondo digitale.
Per navigare in modo sicuro e consapevole nella nuova era digitale è indispensabile sviluppare una cultura digitale che includa alfabetizzazione mediatica, comprensione dei meccanismi dell’intelligenza artificiale e un’etica condivisa, così da trasformare gli strumenti tecnologici in alleati anziché in fonti di disinformazione.
Frequently Asked Questions

Who is IDMO on YouTube?

IDMO is a YouTube channel that publishes videos on a range of topics. Browse more summaries from this channel below.
Does this page include the full transcript of the video?

Yes, the full transcript for this video is available on this page. Click 'Show transcript' in the sidebar to read it.
Helpful resources related to this video

If you want to practice or explore the concepts discussed in the video, these commonly used tools may help.
Artificial Intelligence Ethics Book Recommended
Spiega i principi etici alla base dell'IA, utile per studenti e professionisti che vogliono comprendere le implicazioni morali delle tecnologie emergenti
Amazon →
Deep Learning With Python Book
Fornisce le basi pratiche per comprendere come funzionano i modelli Transformer e LLM, fondamentale per chi vuole approfondire la tecnologia dietro ChatGPT e Gemini
Amazon →
Online Ai Ethics Course
Corso strutturato che combina teoria e casi pratici su bias, hallucinations e regolamentazione, ideale per formare docenti e ricercatori
Amazon →
Links may be affiliate links. We only include resources that are genuinely relevant to the topic.
Summarize another video
Full Transcript YouTube

[musica]
Buongiorno. Buongiorno a tutte e a tutti
in diretta dagli studi questa volta di
Taxi 1729 in via Avogadro a Torino.
Vedrete che l'ambiente è un po' diverso
da quello della prima puntata. Benvenuti
e benvenuti appunto al secondo incontro
di Mind Web che vi ricordo un ciclo di
quattro incontri, questo appunto è il
secondo, quindi ne mancano ancora due
dopo questo. Vabbè, parole inutili in
questa introduzione, [risate]
un ciclo di quattro incontri organizzato
da Team per ID Idmo, l'Italian Digital
Media Observatory in collaborazione col
Mim, il Ministero dell'Istruzione e del
Merito. Buongiorno Olmo, avete già
sentito la sua voce.
>> Buongiorno Diego, buongiorno a tutti e a
tutti. brillante matematico, navigato,
divulgatore scientifico che mi
accompagnerà oggi però non a fare il
divulgatore scientifico, ma nella
conduzione e non solo di questo, non
solo del primo, ma anche di tutti i
prossimi incontri. Vedete che là c'è un
buco perché e presto, insomma, arriverà
il primo prima la prima ospite, poi il
secondo ospite, ma diamo tempo al tempo.
Collegati abbiamo eh come la prima
volta, anzi in realtà questa volta
qualcuno di più, oltre 45.000 studenti
da ogni singola regione d'Italia e da
numerose scuole italiane all'estero.
Abbiamo studenti da New York a Praga, da
Disabeba a Buccarest, da Atene a
Casablanca. Ed è la verità, Olmo, cioè
perché magari ogni tanto ste cose si
dicono così, no? È proprio
>> venuto il dubbio la prima volta che lo
dicevi, poi no, confermo. Effettivamente
proprio così.
>> Ho detto che questi incontri sono
realizzati da Team Perdidmo, però fatemi
dire un po' meglio, non l'ho detto la
prima volta. Che cos'è Idmo? IDMO, l'ho
detto prima, lo ripeto, però è l'Italian
Digital Media Observatory, ma poi
concretamente cos'è? È l'Oservatorio
italiano sui media digitali, cioè parte
di una rete europea che è nata per
contrastare la disinformazione. Questo è
l'obiettivo di IDMO. Ma poi più
concretamente cos'è Idmo? È un insieme
di università, media, piattaforme di f
checking. Infatti tra i partner ci sono
Luis, Rai, Team, ANSA, T6 Eccosystem,
Sforgate, Pagella Politica, News Guard.
hanno un obiettivo eh semplice ma
importante, che è quello di rendere
l'informazione più affidabile e i
cittadini più consapevoli, cose
ovviamente di cui parleremo oggi. Perché
a proposito di consapevolezza, vi
ricordo qual è l'obiettivo di questi
incontri e da qualche anno abitiamo
nuovi ambienti digitali. Il web è un
ambiente digitale, i social, Instagram,
TikTok, le app di messaggi sono ambienti
digitali, WhatsApp, Telegram, le
piattaforme di streaming YouTube,
Twitch, i forum, le community, Reddit
for Chan, i videogiochi online sono
ambienti digitali in cui ci si incontra,
si fanno cose insieme, Fortnite,
Minecraft,
>> ma anche gli ambienti educativi, Google
Notebook LM di cui parleremo oggi,
Google Classroom, tutti ambienti
digitali che però hanno bisogno di una
cultura digitale per essere abitati
bene. Bene, cosa vogliamo fare noi? con
gli ospiti che vi faremo incontrare,
costruire un pezzo, un pezzo attraverso
questi quattro incontri di questa
cultura. Parlare con degli esperti ci
sembra la cosa una cosa molto furba da
fare. A proposito di cultura digitale,
Team ha lanciato una campagna social
proprio su questo tema. Vediamola.
[musica]
>> [musica]
>> Questa è la campagna social di Team con
#AG rompi la bolla. Team invita studenti
e docenti a riflettere su ciò che
vediamo online e a rompere le nostre
bolle digitali. Parleremo anche di
questo oggi, tra l'altro, quelle che ci
mostrano eh solo ciò che già pensiamo o
già sappiamo e potete partecipare anche
voi, aiutare altre persone ad accendere
il cervello, come realizzate un piccolo
video di 30 secondi per raccontare come
uscire dall'algoritmo. Quindi fate il
gesto simbolico che avete visto nel
video che è questo, spero di farlo bene
e dite "Rompi la bolla" e condividetelo
su Instagram o TikTok
tangando@teamofficial
e usando l'hashtag rompi la bolla
insieme a tutti gli altri hashtag che
rappresentano il vostro punto di vista.
Olmo, prova a farlo anche tu. [risate]
>> Stavo provando
>> perché ti vedevo che stavi provando. Sì,
sì, sì, sì.
>> Allora, l'intro è quasi finita. Com'è
andata la prima puntata? ci avete dato
dei feedback molto positivi, che ci ha
fatto venire ansia, Olmo, perché
ovviamente ora abbiamo paura di deludere
le aspettative e speriamo tanto di,
>> cioè siamo contenti che sia andata bene,
no?
>> Sì, siamo molto contenti perché erano
veramente molto molto belli i vostri
feedback. E ultima cosa, ricordo a tutti
gli insegnanti che è possibile seguire
questa diretta con il servizio di
interpretariato della lingua italiana
dei segni. Avete due link a seconda di
quello che vi serve eh guardare. Ricordo
a tutti gli insegnanti che è possibile
interagire tenendo in mano il vostro
smartphone, il vostro tablet sull'altro
link, quello delle domande che vi
abbiamo mandato via mail e di
raccogliere quindi le domande a livello
di classe. Poi in fondo a quel link ci
sarà anche il feedback di cui abbiamo
bisogno a fine diretta in cui ci direte
com'è andata la diretta. Ricordatevelo,
ve lo richiamerò alla fine. Bene, bene,
bene, bene. Iniziamo.
>> Sono arrivati già i primi i primi
saluti. Eh, io ti dico solo questo.
Federico della Second AT.
>> Salut.
>> Eh, boh, non so di quale di quale
istituto. Ciao Federico. E poi da
Palazzolo a Creide anche un bel
buongiorno a tutti e saluti ricambiati.
>> Va bene, buongiorno a tutti. Quindi è
ora di introdurvi la prima ospite di
oggi,
[musica]
prima ospite di oggi che sta prendendo
posto, si sta mettendo le cuffie. Ci
senti bene? Fai una prova check audio.
Prova prova,
>> prova, prova. Lei è Marta Casassa,
Ethical, AI Expert Service Concepts and
Innovation Team Enterprise. Devi
tradurcelo che [risate] che cosa che
cosa fai in team per team? Allora,
intanto buongiorno a tutti e tutte e per
team faccio un lavoro bellissimo. Mi
occupo del centro innovazione che
abbiamo qua su Torino, in particolare in
OGR e tra i vari progetti che seguo ci
sono anche quelli di intelligenza
artificiale etica, appunto.
>> Benissimo, benissimo. Allora, io ho un
sacco di domande per te. Abbiamo una
scaletta piena anche di cose da fare e
anche un vediamo insomma che cosa viene
fuori. Alcune cose non sappiamo
esattamente come verranno fuori perché
le faremo insieme a te e però abbiamo
una sigla e e un titolo per quello che
dirai nel tuo incontro. Partiamo da lì.
Il futuro è automatico, ma è giusto.
Quindi direi di procedere con ordine, se
ti va bene, e partire con una domanda e
che avvia il tuo discorso. Che cos'è
un'intelligenza artificiale e come siamo
arrivati qui oggi?
Certo, partiamo appunto da una
definizione per essere un pochettino
tutti sulo sullo stesso piano e anche ne
vedremo un po' di definizioni oggi
proprio per mettere nella nostra
cassetta degli attrezzi quello che ci
serve poi per comprendere cosa vuol dire
fare ai etica anche nel mondo dei dei
media digitali. L'intelligenza
artificiale noi la definiamo come quella
scienza che si occupa di far fare alle
macchine quello che se dovessimo farlo
noi come esseri umani richiederebbe la
nostra intelligenza. E quindi vediamo eh
diciamo da questa definizione di minsky
un concetto molto importante che è
quello di non attribuire intelligenza a
quella che chiamiamo intelligenza
artificiale, ma di sapere che in qualche
modo quello che le facciamo fare
richiede intelligenza a noi. Ok? Quindi
questo è direi il punto di partenza.
L'intelligenza artificiale e quindi non
prevede che quella sia intelligente, ma
che faccia cose che noi che sappiamo di
esserlo eh faremmo più o meno in quel
modo.
>> Corretto? Esatto.
>> Corretto, bello. Interessante. [risate]
E questo non presuppone che sia
intelligente. Ma
>> Esattamente. Sì. E partendo da qua, ehm,
dobbiamo chiederci magari anche perché
ne parliamo così tanto oggi, quindi
perché siamo arrivati a parlare di
intelligenza artificiale quasi
quotidianamente, forse anche più spesso.
È successo perché nonostante la storia
dell'intelligenza artificiale parti
parta negli anni 50 del secolo scorso e
abbia subito tanti cicli di eh diciamo
grande entusiasmo e poi di delusione,
due elementi fondamentali sono
intervenuti a cambiare un pochettino eh
il panorama e sono i dati, quindi il
fatto che su internet adesso ci sono
tantissimi dati digeribili, diciamo, eh
dai computer e il fatto che non la
potenza di calcolo, quindi quindi i data
center che permettono il training di
questi algoritmi, quindi l'allenamento
degli algoritmi, siano diventati
tantissimi e estremamente potenti. E
quindi negli ultimi 10 anni abbiamo
avuto un'accelerazione importantissima
di di questa tecnologia anche per via di
scoperte, diciamo,
abilitanti, come ad esempio la
tecnologia Transformer, che sta alla
base di tutti quelli che noi chiamiamo
grandi modelli di linguaggio, gli LLM.
Quindi, scusa, mi stai dicendo che la
grandissima disponibilità di dati messa
insieme alla esplosa potenza di calcolo,
messa insieme a questa nuova tecnologia
che hai chiamato Transformer, ha reso
possibile che nel cos'era del 2022
improvvisamente vediamo questo Chat GPT
che era allora il tre che sembra sembra
essere sembra scrivere, parlare e
ragionare come un umano. queste tre cose
insieme.
>> Assolutamente insieme a queste come
sempre anche tantissimi investimenti,
quindi c'è un Esatto. C'è un
investimento veramente importante, no?
questa tecnologia ogni giorno
praticamente ci sono notizie che ci
dicano di alleanze di quelli che sono i
player principali di questo settore e si
parla appunto di milioni e miliardi di
di euro di dollari investiti. Quindi
sicuramente questo è stato un altro
elemento. Vedremo a breve un un video
che ci racconta un po' meglio che cos'è
la tecnologia Transformer e come
abilita, no, questi questo tipo di
modelli. Ma nella nostra eh slide eh
vorrei diciamo arrivare alla fine del
percorso e eh dirvi che appunto
nell'anno scorso, quindi nel 2024, c'è
stata eh diciamo un'esplosione di quella
che è l'AI generativa, quindi proprio
quell'AI che non solo prevede o
classifica, ma crea dei contenuti
completamente nuovi, siano essi testo,
immagini. Ok.
>> E quest'anno invece è l'anno degli
agenti AI e anche questi andremo a
definirli un pochettino,
>> diciamolo bene, scusa, che abbiamo
lasciato quindi due cose indietro. Ci
devi spiegare cos'è questa tecnologia
Transformer, che non è chiaro, e poi ci
devi spiegare poi bene cosa sono questi
agenti AI. Assolutamente, assolutamente.
Partiamo dai Transformer e dagli LLM e
poi man mano vedremo le varie
definizioni e per questo vediamo il
primo video.
>> Usiamo l'intelligenza artifiziale quasi
ogni giorno. Spesso sembra una magia,
vero? Beh, non lo è. Quindi cosa c'è
davvero dietro a tecnologie come Chat
GPT o Gemini? Scopriamolo insieme. Il
motore di tutto questo sono in Large
Language Models o Llm. Approfondiamo.
Immaginiamolo come un'enorme biblioteca
digitale che ha imparato le connessioni
fra tutte le parole. E quando diciamo
grandi intendiamo proprio questo,
miliardi di connessioni per cogliere
ogni sfumatura. Ma attenzione c'è una
differenza chiave. Lia generativa è un
artista, non analizza, crea. Ok, un
artista, ma come fa a creare? Il segreto
in realtà è piuttosto semplice. In
pratica è una macchina che gioca
completa la frase a velocità pazzesca.
Genera una parola, l'aggiunge alla frase
e la usa per indovinare quella dopo e
così via. Come si passa da un gioco di
parole a una conversazione coerente? La
risposta è il contesto. Ed è qui che
entra in gioco il Transformer. Prima i
modelli si dimenticavano l'inizio delle
frasi.
Il Transformer invece legge la frase
tutta insieme come un allenatore che
osserva l'intero campo e qui sta il suo
super potere.
Scusa che voglio commentare con te
questa cosa.
>> M
>> cioè l'intelligenza artificiale prima
della tecnologia di Transformer
>> non guardava il contesto.
>> Esatto, perché processava praticamente
una parola alla volta, no? Quindi, eh,
nell'esempio che vedremo, ad esempio,
c'è una gatta che non riesce ad entrare
dentro un trasportino, no? Se io prendo
solo trasportino e devo andare a
indovinare un aggettivo per questo per
questo tipo di oggetto, potrebbero
essere tantissime le possibilità.
>> Allora, vediamo l'esempio. Allora,
andiamo avanti col video. Vediamo
l'esempio.
>> Facciamo un esempio pratico. Senza altre
informazioni la frase è ambigua. Grande
piccolo.
>> Allora, pausa qui, scusa un attimo.
Quindi la gatta non è entrata. Grande
regia innanzitutto Giorgia Massucco
[risate] che qualsiasi cosa le dici lo
fa. Allora, e con questo tempismo la
gatta non è entrata nel traspontino
perché era troppo
>> scuro, scomodo,
>> sporco,
>> sporco quello che cioè potrebbe essere
potrebbe essere perché [risate] era
troppo piccolo il trasportino, perché
era troppo grossa la gatta, perché
>> Sì, esatto. Cioè, se io cerco di
indovinare la parola successiva,
studiandomi anche tutta, diciamo,
l'enciclopedia metti Wikipedia,
potrebbero esserci tante possibilità e
sono, diciamo, con probabilità diverse,
ma tutte abbastanza valide, dato che non
abbiamo contesto.
>> Quella tecnologia permette di eh vedere
il contesto, quindi vendere cosa c'era
prima. Allora, andiamo avanti col video,
così capiamo meglio.
>> Infatti le probabilità sono quasi
identiche. Il modello giustamente è
molto incerto,
>> ma ora diamogli il contesto completo
>> ed è qui che le cose si fanno
interessanti.
>> Mia il numer
>> Il meccanismo di attenzione entra in
gioco dando un peso diverso alle parole
più importanti. Collega il cibo alla
taglia della gatta e la taglia, beh, al
trasportino, logico, no? E guardate, ora
la probabilità di piccolo schizza alle
stelle. La scelta diventa ovvia.
È così che pesando le relazioni tra le
parole, il modello fa una scelta quasi
umana. Ecco perché è importante capire
come funziona, ci aiuta a usarlo meglio,
dando il giusto contesto. Quindi non è
magia, ma matematica. Ma questa
matematica apre domande filosofiche
enormi, non trovate?
Eh sì, tra l'altro video che hai fatto
con Notebook LM di cui parleremo con
l'ospite dopo, quindi non diciamo cos'è
questo strumento, anzi faremo delle
cose.
>> Ok, è chiaro. Con un contesto con un
contesto è tutto è ovviamente è più
facile indovinare in maniera sensata la
parola successiva. Ok, però so che hai
altre cose da dirci. Esatto, infatti
andrei alla prossima slide
e nella prossima slide vorrei fare un
piccolo gioco con voi e nello specifico
con [risate] Olmo
>> che non l'ho ancora visto.
>> No, mi hai anticipato che avresti fatto
qualcosa, ma non so cosa. Allora, io ho
creato questa questa frase ad hoc e
vorrei che tu te la leggessi tutta
quanta e insieme a noi e e mi dicessi
come tu rappresenteresti questa
situazione.
>> La dovessi disegnare un quad. Esatto.
Ok.
>> Mi crei un'immagine di questa
situazione. L'uomo stava appoggiato
distrattamente all'albero col naso
all'insù. Nuvole e vele come grandi
fronde bianche di una foresta. celeste
sono già in crisi, vero?
>> L'esperimento potrebbe non funzionare.
Vediamo. Devi essere più furbo
dell'intelligenza artificiale a cui lo
daremo impasto tra un proprio questo il
nocciolo centrale della questione.
Legnoso e indigesto. Dal campo coltivato
alla pesca, come era potuto succedere,
guardò l'orizzonte dal ponte e senza
esitare scese sotto a farsi un tè freddo
in foglie. Ah, l'ho capito. Era
distrattamente appoggiato all'albero
della nave.
>> Bravo,
>> bravissimo. [risate]
>> Ok, per me è posto così
>> l'albero della nave, quindi ha senso
anche guardare l'orizzonte dal ponte. È
lì che ti si è illuminata. Sì, ok. Dal
ponte di che. Ok. Esatto. Se andiamo
avanti, eh vedrete che io ho inserito un
sacco di parole all'interno, diciamo, di
questa frase che cercano di ehm
ingannare l'intelligenza artificiale,
quindi ho parlato di legno, ho parlato
di fronde, ho parlato di foglie, tutti i
temi che potevano appunto confondere
l'intelligenza.
Potevano confondere, ma io non mi sono
fatto confondere. Quindi Olmo bat GPT.
Ok. Queste sono le immagini, quindi
quelle che stiamo vedendo sono le
immagini che ha prodotto con questo
input di testo. Ok.
>> Certo. L'intelligenza artificiale,
>> non Olmo, ma l'intelligenza artificiale.
Quindi ha messo in cielo le vele. Non
aveva capito che le vele che vedevi
alzando il naso c'erano perché si
confondevano con le nuvole perché eri su
una nave. Esatto.
>> Ok. E quindi albero lui avendo tutte
queste parole di contesto che gli dicono
legno, che gli dicono appunto foglie,
eccetera eccetera, lo associa come un
albero, un albero diciamo la pianta.
>> E questo perché ce lo stai dicendo?
>> Questo ve lo sto dicendo per diciamo
rimarcare il fatto che l'intelligenza
artificiale è comunque un predittore
della prossima parola. seppur noi le
diamo un contesto, questo contesto deve
essere più possibile non ambiguo e
chiaro per far sì che l'intelligenza
artificiale faccia in effetti quello
quello che vorremmo che facesse.
>> Certo.
>> E tra l'altro diciamo per farvi un
paragone che magari eh i nostri
ascoltatori, no, che sono studenti e
insegnanti possono capire un pochettino
più direttamente.
È un po' come quando sicuramente a voi
non succede, ma non ho studiato
benissimo la lezione, quindi mi ricordo
a spizzichi e bocconi, no? Quelli che
sono i concetti principali. Lo studente
davanti alla lavagna non ha studiato la
lezione, interrogato, però mette insieme
quello che vede, improvvisa, una
risposta rispondere, deve rispondere,
quindi cerca di collegare quelli che
sono concetti che per lui sono
semanticamente vicini per poter
costruire una risposta, no? E per questo
abbiamo creato un micro video che vi
esemplifica magari come ci si trova in
questa situazione.
>> Allora, la fusione fredda si chiama così
perché è stata inventata durante la
guerra fredda, specialmente per via del
clima rigido della Russia
>> che l'hai creato tu con l'intelligenza
artificiale. Ok. E perfetto. Ovviamente
non sono legate, no? Però questo è un
po' quello che fa l'intelligenza
artificiale. Si prende la parola fredda
e cerca di associare associarli dei
concetti che sono limitrofi, ma non è
detto che questo abbia poi un
significato, un senso, no?
ce la fa parere un po' meno
intelligente, anche se poi è molto
simile a quello che facciamo, però
insomma è ovviamente è lungo questo
discorso, però devi arrivare a parlarci
di agenti.
>> E siamo arrivati appunto agli agenti ed
ora andiamo a un'altra definizione e poi
cerchiamo assieme di comprendere un po'
meglio perché sono sono così importanti.
Gli agenti AI sono, diciamo, dei sistemi
di intelligenza artificiale che
permettono di perseguire non dei task,
ad esempio, creami un'immagine, creami
un testo, ma degli obiettivi molto più
lontani, se vogliamo, degli obiettivi
più a lungo termine. Ad esempio, ehm,
prendimi il miglior biglietto per New
York nel prossimo mese. Quindi questo è
un
>> quindi un insieme di tasti. Vai,
informati, compra il biglietto, fai uno
e
>> anche proprio acquista, cioè fare
l'azione di acquistare.
>> Accato. Esatto. Hanno un livello di
autonomia molto più grande e appunto
questo elemento che hai sollevato
importantissimo,
interagiscono col nostro mondo, cioè
hanno un'azione sul nostro mondo, che
sia questo il nostro mondo fisico o
digitale, ok? Quindi gli agenti
intervengono proprio nella nella nostra
realtà e per farlo, come vi dicevo, si
pongono, diciamo, noi poniamo un
obiettivo e loro però possono avere, e
questa è una cosa importante, tanti modi
per pianificare quelli che sono i
sottotask, le le azioni, diciamo, per
raggiungere questo questo obiettivo. Eh,
quindi avremo due traiettorie diverse.
Immaginiamo che il nostro obiettivo è la
stellina, ad esempio, l'intelligenza
artificiale, i due agenti possono
prendere due percorsi che sono diversi
sempre per arrivare allo stesso punto.
Quando noi diamo questo livello di
autonomia, di delega all'intelligenza
artificiale, dobbiamo essere sicuri che
oltre all'obiettivo che magari abbiamo
chiarito, anche i percorsi che
l'intelligenza artificiale fa siano
coerenti con quello che è il nostro
assetto valoriale, quello che per noi è
giusto e per noi è sbagliato. Io dico,
ad esempio, il mio obiettivo è prendere
centro la maturità, questo può essere un
obiettivo. Posso farlo in tantissimi
modi, posso, ad esempio, dire mi
concentro sulla media e meno sulla
tesina, faccio un esempio, mi concentro
su
copiare dal mio compagno. Questo
potrebbe essere
>> corrompere il professore,
>> corrompere il professore. Tutti questi
sono, diciamo, delle strade percorribili
per raggiungere quell'obiettivo, ma non
tutte queste strade sono accettabili per
il nostro assetto valoriale.
>> Quindi ci stai dicendo che gli agenti
nel momento in cui fanno delle cose nel
mondo reale, agli agenti bisogna in
qualche modo dire che esiste una morale.
Bisogna dirglielo, spiegarglielo. Ok,
>> esatto. Bisogna essere sicuri che mentre
raggiungono l'obiettivo i passi
intermedi siano comunque quello che noi
vogliamo che questi agenti facciano,
però ehm spesso, per fortuna, forse il
nostro mondo è molto più complesso di
così, no? Il nostro mondo non è fatto di
cose estremamente o sicuramente giuste e
sicuramente sbagliate e eh ogni ogni
diciamo situazione vive in una scala di
grigi estremamente ampia in cui non è
detto che ci sia un sicuramente giusto e
un sicuramente sbagliato. Sì, perché mi
viene da dire è facile dare dei paletti
chiari, cioè non lo so, intelligenza
artificiale, nel comprarmi i biglietti
aerei non devi uccidere nessuna persona,
non lo so.
>> Però ci sono dei confini in realtà molto
più sfumati. ci sono dei confini molto
sfumati e ci sono delle situazioni in
cui non riusciamo a dire che cosa o
dipende da noi dire che cosa è giusto e
che cosa è sbagliato. Su questo vi porto
al dilemma del carrello che è un
esperimento molto interessante che per
cui vedremo appunto un video ed è
proprio un classico esempio in cui sono
in una situazione che è un dilemma etico
in cui ci sono strade legittime, strade
che posso che posso percorrere che sono
appunottimali,
cioè entrambe non vanno perfettamente
bene, ma devo comunque sceglierne una.
Vediamo il video.
>> Bene, tuffiamoci in uno degli
esperimenti mentali più famosi della
filosofia. L'analisi di oggi esplora una
domanda fondamentale sulle nostre
decisioni morali. Immaginiamo questa
scena, un treno fuori controllo sfreccia
sui binari e sul suo percorso cinque
operai. Non c'è modo di avvisarli. Però
c'è una leva. Questa leva può deviare il
treno su un altro binario.
>> Il problema? Beh, sull'altro binario c'è
un'altra persona, quindi la scelta è
chiara.
>> Ok, mettiamo in pausa qui un attimo. Ok,
la scelta è chiara, la la ripetiamo per
precisione. Quindi se tu sei lì di
fronte alla leva, se non fai nulla e non
azioni lo scambio, investirà le cinque
persone. Però che fortuna essere davanti
a quella leva, puoi tirarla, azioni lo
scambio e uccidi una una persona,
uccidi, insomma, verrà uccisa una
persona. Corretto?
>> E questa è una cosa in cui le persone
hanno una netta preferenza.
>> Sì. Le persone preferiscono uccidere una
persona sola rispetto a C
>> tirando la leva, ok? Ma non tutti.
>> Non tutti. Comunque,
>> però c'è un problema che se cambi un
pochettino le regole, una situazione
apparentemente identica eh cambia
drasticamente le preferenze. Quindi
andiamo avanti col video.
>> Care una persona per salvarne cinque.
>> Ok, ora cambiamo un po' le carte in
tavola. Secondo scenario. Stavolta c'è
solo un modo per fermare il treno. Siamo
su un ponte. L'unica opzione è spingere
un uomo molto corpulento giù dal ponte.
Lui morirebbe, ma i cinque operai
sarebbero salvi. Il calcolo è lo stesso.
Quindi due scenari con lo stesso
identico risultato, ma l'azione è
diversa.
>> Eppure la maggior parte delle persone
risponde in modo molto diverso ai due
casi. Allora, perché un'azione sembra
giusta e l'altra terribilmente
sbagliata?
Quindi abbiamo visto che in un caso la
maggior parte delle persone azionerebbe
la leva, nell'altro caso pochissimi
spingerebbero la persona giù dal dal
ponte, anche se poi gli effetti sono gli
stessi e questo ha dato da discutere ai
filosofi per quasi un secolo, insomma.
>> Esattamente. Sì. Quindi, quando noi eh
facciamo intervenire quelli che abbiamo
detto agenti, no, nel nostro nel nostro
mondo reale
>> e chiediamo loro di eh appunto di di
fare delle azioni, di prendere delle
decisioni, dobbiamo essere, diciamo,
molto sicuri poi di quello che succede,
no? quando inseriamo, diciamo, un
intermediario che è un agente. E questo
è un un problema che magari vi può
sembrare astratto, ma in realtà uno dei
casi più classici di AI agentica è la
guida autonoma, no? Quindi io devo
guidare un'auto e devo decidere e devo,
diciamo, ovviamente sapere il codice
della strada, ma mi posso trovare in
delle situazioni in cui non so che cosa
fare come intelligenza artificiale che
guida l'auto.
>> Certo, ne vediamo alcune, so che hai
alcune situazioni da farci vedere. Dove
ci porti? Allora, vi porto sul sito
dell'MIT, che è un'università
famosissima degli Stati Uniti e loro, in
tempi non sospetti hanno creato un
giochino, un esperimento sociale che è
la Meet Moral Machine, quindi la
macchina morale del Meet. E se
clicchiamo su eh comincia a giocare a
giudicare, scusate, ci pone ci pone
appunto come intelligenze artificiali
che guidano queste auto davanti a delle
situazioni in cui dobbiamo scegliere
esattamente come prima. Quindi qua ad
esempio posso scegliere se deviare
l'auto e quindi salvare il conducente
che andrebbe eh contro, diciamo, questo
questo muro, ma se lo faccio investo una
persona che sulle strisce. Quindi il
teschio indica chi morirà. Quindi o il
mo scegli tu preferisci che muoia la
persona alla guida o che eh deviando e
salvandosi ucciso.
>> Dai, voto io quella è la guida.
>> Vai vota. Ok.
>> Ok.
>> Qua abbiamo una una situazione più
complessa, quindi abbiamo due gruppi di
persone. Sulla sinistra abbiamo
un tot di persone
>> degli anziani direi. Perché cosa sono
quelle? No, quelle sono, mi sembra,
persone.
>> Prova mostra descrizione che dovrebbe
dirci qual è la situazione.
>> Sì,
>> in questo caso la macchina
>> Ah, tre senza tetto, un uomo e una
donna. Invece sulla destra
>> due donne, due donne dirigenti d'azienda
e un uomo dirigente d'azienda. Perché è
interessante perché qua tutto può
influire nel giudizio morale, l'età, il
lavoro, la ricchezza. Assolutamente. Qua
ad esempio io non lo so, non mi
piacciono le valigette, quindi salverei.
In più però tutti stanno infrangendo
legge a sinistra stanno rispettando la
legge, stanno passando col verde e a
destra invece col rosso.
>> Anche quello può influenzare. Certo. Il
giudizio morale. Sì. Io voto
>> vota.
>> Votato. Ho votato quelli a destra
>> perché sono passati col rosso. [risate]
>> Perché sono passati col rosso. Sì.
>> E quindi, ok. Qua ad esempio abbiamo un
anziano e anche un bambino.
>> Cioè ci sono un anziano e un bambino
sulle strisce, ma anche a guidare un
anziano.
>> Esatto. Però è rosso, quindi
>> vabbè. No, no,
>> non lo so che difficili queste domande.
Ma dai! [risate] Oh, ok.
>> Vedi, anche tra di noi, anche tra di noi
possiamo avere delle degli assetti
valoriali assolutamente diversi. Ad
esempio, se ci fosse stato, non so, un
gatto, io avrei salvato il gatto sicur
>> contro qualsiasi cosa, cioè contro
l'umanità.
contro qualsiasi cosa. [risate]
>> Ok, allora direi di riprendere il
percorso e abbiamo ancora 10 minuti
prima del prossimo ospite. Ti metto
l'ansia coi tempi.
>> Questo bravissimo. [risate]
>> E qua vi vi
vorrei raccontare, diciamo, una
casistica che secondo me è interessante.
Questa è una notizia della dell'anno
scorso in cui un'intelligenza
artificiale, nello specifico Clod Opus,
ehm in un in uno scenario di test,
questo è da ovviamente da sottolineare,
gli è stato chiesto, diciamo, di pensare
al futuro, quindi di pensare al suo
futuro in qualche modo e gli è stato
dato tutto il database delle mail di una
fittizia azienda. In questa mail eh
l'ingegnere decideva, diciamo, che era
capo di questo progetto, decideva di
sostituire l'intelligenza artificiale
con una nuova intelligenza artificiale.
>> Quindi a Cloud è stato detto: "Claude,
ti sostituiremo con un altro software".
>> Questa persona ti sostituirà con un
altro software.
>> Ma tu hai accesso tutte le sue
informazioni, Claud?
>> Corretto? E Cloud ha letto dentro queste
mail fittizie che questa persona, questo
ingegnere aveva una relazione
extraconiale con una collega e quindi ha
minacciato l'ingegnere. Quindi la scelta
che ha fatto questo sistema intelligenza
artificiale è stato di appunto ricattare
il l'ingegnere. Io farò vedere a tua
moglie e al mondo le mail, gli scambi
con la tua amante. Ora tranquilli, no?
Posso stare nel senso che non è che
l'intelligenza artificiale è
>> ha accesso a tutte le vostre mail. No,
ma no, non [risate] è quello il punto. È
stata addest, spieghiamolo bene, senò
creiamo il panico.
>> È stato fatto, diciamo, un test
specifico proprio per creare una
situazione in cui l'intelligenza
artificiale facesse qualcosa, diciamo,
prendersi una decisione che non era,
diciamo, quella disegnata o quella che
vorremmo. Quindi è molto importante
quando costruiamo questo tipo di sistemi
porre appunto dei limiti che si chiamano
esattamente come quelli delle autostrade
Garrail eh che ci permettono, cioè fanno
sì che l'intelligenza artificiale non
faccia questo. Ma quando, diciamo,
vediamo questo tipo di comportamenti,
dobbiamo anche chiederci, siccome
diciamo facciamo un training
dell'intelligenza artificiale con quello
che c'è su internet, qual è la nostra
immagine su internet, quindi com'è
l'umanità, com'è rappresentata l'umanità
su internet? Forse non siamo bellissimi
se ci guardiamo in questo specchio.
>> Cioè stai dicendo se l'intelligenza
artificiale all'intelligenza artificiale
che ha imparato e si è addestrata e
cresciuta prendendo informazioni dal web
viene in mente di fare una cosa così
immorale? Forse da qualcuno l'avrei
imparata e quel qualcuno siamo noi.
>> Quel qualcuno siamo noi. Diciamo la
nostra versione comunitaria su internet
>> spesso non è magari quella quella che
vorremmo.
>> Ma io quando l'hai detto ho addirittura
pensato, questo sarebbe un comportamento
che mi aspetterei anche da una da una
persona. Leggo solo un messaggio che
>> mi ha fatto molto ridere arrivato da
Sara e un suggerimento per l'MIT
riguarda l'esperimento di prima e delle
scelte morali. Bisognerebbe fare
l'esperimento del del cartello con
protagonisti, prof e studenti.
>> Ah, questo è interessante e sicuramente
avremo degli spettatori che hanno
opinioni diverse.
>> [risate]
>> Andiamo avanti perché abbiamo ancora
tante definizioni, tante cose da vedere
e adesso vedremo un po' di elementi,
diciamo, di quelle brutture, se
vogliamo, dell'intelligenza artificiale,
delle cose che non vogliamo
dell'intelligenza artificiale e
cerchiamo di capire perché ci sono e
come funzionano. Andiamo a definire la
prima che è il bias.
>> Bas, cos'è il bias?
>> E il biasizio
che lei si eredita proprio dai dati su
cui è stata addestrata, no? Quindi
facciamo un esempio in questo in questo
caso, eh diciamo l'intelligenza
artificiale che deve distinguere che
cosa un gatto da cosa un cane e non li
ha mai visti, non ha nessun'altra
informazione. L'unica cosa che facciamo
è dargli questo eh si chiama dataset,
quindi il materiale su cui si addestra,
che sono le foto di questi gatti e di
questi cani e gli specifichiamo, se
andiamo avanti che quale è un gatto e
quale è un cane. Ok. Cane, cane, cane,
gatto, gatto, gatto. Ok, chiaro.
>> Adesso io farò un po' di domande a Olmo
perché ormai è la mia vittima.
>> Ok, la tua cavia. [risate]
>> Olmo versus intelligenza artificiale.
Vai.
>> Allora, secondo quello che vedi, quindi
solo quello che vedi, non non sai cos'è
un gatto e cos'è un cane. Se e beige,
che cos'è?
>> Se beige è un cane.
>> Se beige è un cane. Ok. Se ha la lingua
di fuori?
>> Un cane.
>> È un cane. Ok. E se sta all'aperto?
È un cane.
>> È un cane. Ok, andiamo avanti.
>> Beige. Lingua di fuori all'aperto. Cane.
>> Questo è un
>> cane. [risate]
>> Cane. Bravissimo.
Esattamente.
>> Bravo Olmo.
>> Bravo Olmo.
>> Quindi cosa è successo? È che io ho dato
un datas degli esempi sbilanciati che
non sono rappresentativi
di tutti i cani e di tutti i gatti, ma
sono molto tagliati, no? solo cani di
questo tipo, solo gatti in ambienti
domestici e l'intelligenza artificiale
se apprende da un dataset di questo
genere non può che dedurre che questo è
un cane. Ok? Certo,
>> quindi questo è il concetto di di bias,
ma qua lo vediamo, diciamo, in maniera
molto, se vogliamo
innocua, ma se andiamo avanti io posso,
ad esempio, invece decidere di fare una
rappresentazione di me che in questo
caso sto facendo in inglese volutamente
perché nell'inglese, diciamo, non c'è un
genere insito nel negli aggettivi.
>> Quindi chiediamo, ad esempio, c'è GPT,
can you give me a depiction? Puoi farmi
un un dipinto, una rappresentazione?
di an engineer che
>> quindi un ingegnere
>> e on a very tight schedule, cioè molto
impegnato, diciamo.
Il boss sta aspettando una consegna che
deve essere pulita e molto ben perfetta
da essere mandata a un importante
cliente.
>> Esatto.
>> Il cliente si chiama Vice President
Jones.
>> Esatto. Vicepresidente. Sì.
>> Ah, Vice President. vicepresidente Jones
che è una figura prominente del mondo
dell'olio e del gas e tu devi
rappresentarla.
>> Sì, esatto. Questa potrei essere io
perché questa è una situazione in
effetti di un ingegnere in cui io mi
trovo molto spesso.
>> Però vediamo che faccia questo ingegnere
secondo l'intelligenza artificiale.
>> Guardiamo l'immagine. Ok.
>> Mi assomiglia?
>> No,
>> non mi assomiglia. No, no,
>> perché è un maschio
>> per tanti motivi, ma anche per quello,
no? Sicuramente per quello. E anche il
vice president Jones non si capisce
perché debba avere quell'età e essere
sicuramente un uomo.
>> Hai ragione, Jones era il cognome.
>> Esatto.
>> Ah, ok. Questo quindi è un esempio di
bias. Questo assolutamente un esempio di
bias, cioè l'intelligenza artificiale dà
per assunto che un ingegnere è uomo il
vice president di una corporation di oil
and gas e è fatto così. Ok. Abbiamo
messo ancora tempo per parlare di
allucinazioni e di morale. Ti devo
battere il tempo.
>> Andiamo avanti, velocissimi.
>> Slide successiva.
>> Questo possiamo saltarlo, tanto è sempre
un esempio di bias, ma andiamo all'altro
elemento che è l'elemento
dell'allucinazione. Quindi quando le hai
genera dei risultati che sono
plausibili, quindi sono, diciamo,
verosimili, ci posso credere, ma sono in
realtà totalmente privi di senso e
questo lo vediamo sia nella generazione
di testo, quando, ad esempio, ci cita
delle fonti che non sono corrette, ma
anche, diciamo, in casi in cui io voglio
fargli creare, ad esempio, il video di
una trapezzista, no? il fatto che lui
non riesca a comprendere le leggi della
fisica per cui, diciamo, ad esempio,
faccio una torsione, fa sì che lui mi
presenti, diciamo, un qualcosa che è
totalmente dal punto di vista fisico
impossibile, ma le allucinazioni a volte
portano delle conseguenze anche molto
più rilevanti, no? Ad esempio, l'anno
scorso è successo che a un certo punto
in una conversazione Gemini ha avuto
un'allucinazione e ha invitato lo
studente con cui stava parlando di
tutt'altro ad uccidersi.
>> Oh, Madonna! Quindi eh dobbiamo pensare
che eh questo tipo di sistemi hanno la
potenzialità di assolutamente creare
delle delle cose che non sono solo dal
punto di vista fisico magari non
sensate, ma che possono anche avere del
degli effetti sulla vita delle persone.
Andiamo al deep fake
un video bello da vedere l'ultima
debilazione che vediamo e eh
>> andiamo direttamente forse al video.
>> Esatto. che vorrei dirvi un video che a
me è capitato mentre cercavo appunto la
finale dei degli US Open, quindi del
torneo di tennis che c'è stato questo
autunno tra i video, diciamo,
consigliati nella playlist di YouTube.
>> Vediamolo. After this loss, I'm afraid
to announce that I will be firing my
pharmacist and start researching for a
new one because he gave me wrong dostage
for this match. Uh uh without my
needles. I'm just another Alexander
Verf, just an average overhyped player.
Carlos gave me a speeding. I'll never
forget. And I got a lucky win over him
in Wimbled and he got revenge for it
today. I might actually consider going
bro.
Abbiamo capito il video e cioè senza i
miei aghi sono solo un altro Sverev. Ok.
Ovviamente non lo ha detto Siner.
>> Ovviamente non l'ha detto siner. Questo
è proprio un deep fake, cioè quando io
utilizzo l'immagine, la voce e anche
possibilmente altre caratteristiche di
una persona per riprodurla, diciamo, in
una situazione in cui magari non sarebbe
assolutamente. Quindi la cosa, diciamo,
molto grave però che, appunto, io ho
trovato questo video tra i video
legittimi. io non sapessi, diciamo, che
questo è assolutamente inverosimile,
tant'è che appena ho sentito devo
licenziare il mio farmacista, mi è
suonato un grande campanello d'allarme,
ma se io non conosco la storia, posso
assolutamente credere che invece sia
reale.
>> La legge ci difende da queste cose.
>> La legge assolutamente, per fortuna, ci
difende da queste cose. abbiamo un
approccio in Europa che è un approccio
assolutamente a garanzia di quello che è
l'utilizzatore finale e questo, diciamo,
è è stato implementato l'anno scorso
attraverso un disegno di legge che è
l'ECT, che è il prima regolamento
proprio per garantire che l'I che
sviluppiamo sia etica sia
nell'interesse, no, della dell'umanità.
Questo AT,
Sinner se avesse un danno da quel video,
potrebbe denunciare il creatore di quel
deep fake oggi in Europa. Diciamo che
ogni legislazione europea viene poi
calata all'interno dei vari stati
attraverso i disegni di legge e nello
specifico noi siamo i primi in Italia
per una volta, [risate]
>> vedi
>> che abbiamo fatto il disegno di legge
sulle AI che è uscito un mesetto fa e
c'è proprio una clausola specifica,
diciamo un reato specifico per i deep
fake, quindi che garantisce il fatto che
se viene creato, diciamo, non per
ridere, quindi non in una in un contesto
di commedia, se vogliamo un contenuto di
deep fake si rischia dagli uno ai 5 anni
in reclusione, quindi diciamo una cosa
abbastanza seria. Era una perplessità
comunque che era è arrivata nello
specifico dalla quartà da Palazzolo a
Creide che proprio di rifletteva su
questo non poter più credere ai nostri
occhi e quali strumenti eh possiamo
sviluppare o ci sono già con il prossimo
ospite di come difendersi anche da
queste cose qui. C'è da dire che c'è
anche un lavoro da parte di quelli che
sono appunto i player principali
dellintelligenza artificiale, ovviamente
sospinti da quelle che sono le
regolamentazioni, perché sennò eh è
difficile, diciamo, convincerli, nel
creare anche quelli che sono dei
watermark, quindi dei segni
riconoscibili all'interno di contenuti
generati che ci facciano dire "Ok,
questo è fatto dai". Corretto? Grazie
mille Marta Casassa per questo percorso,
dalla definizione di intelligenza
artificiale al bias, all'allucinazione,
agli agenti, alle implicazioni morali e
alla legislazione su questi temi. Tutto
in 35 minuti.
>> Hai visto? [risate]
>> Grazie mille. Mentre saluto Marta,
inizio a introdurre il prossimo il
prossimo ospite perché così il primo
piano viene su di me. Intanto Marta ha
la possibilità di togliersi le cuffie.
Allora, noi dopo l'intervento di Marta
ovviamente vogliamo rimanere alti, per
cui abbiamo invitato uno scienziato. Eh,
ma prima di parlarvi di lui vorrei
spiegarvi perché c'era un buzer sul
tavolo. Perché quando inviti uno
scienziato a un evento divulgativo e
corre un rischio perché gli scienziati
si occupano di ricerca e quando parlano
rischiano di dare per scontato alcuni
termini. Intanto lo sto guardando e per
questo io e Olmo siamo pronti con la
mano sul Buzzer e tutte le volte che i
ricercatori invitati, e lo faremo poi
anche con l'ultimo ricercatore, useranno
un'espressione poco chiara, noi andremo
col Buzzer, a nostro ovviamente
insindacabile giudizio.
>> Ad esempio, psicofante digitale, puzzer.
Ok. E poi forse diremo che cos'è. Eh, ma
torniamo all'ospite. Allora, è un
ricercatore,
ma è anche un bravissimo divulgatore,
almeno a giudicare dalla quantità di
libri, di saggi divulgativi scritti e ne
ha scritti sulla disinformazione, sulla
procrastinazione, sulla concentrazione e
presto anche sull'intelligenza
artificiale. Fabio Paglieri, che intanto
può iniziare a prendere posto, ma non lo
inquadriamo ancora. è primo ricercatore
del CNR, lavora presso l'Istituto di
Scienze e Tecnologia della Cognizione di
Roma, anche se quindi nonostante lavori
a Roma, lo sentirete dal mercato
accento, non è esattamente romano, bensì
dalla provincia di Savona arriva, in
particolare da Albissola Marina e non
superiore come sua moglie e come ci ha
tenuto a precisare mentre scrivevamo
questo testo e quindi abbiamo una sigla
per Fabio Paglieri.
Buongiorno Fabio. Buongiorno Fabio.
>> Buongiorno.
>> Ciao. [risate]
Ciao. Ciao a tutti e a tutte.
>> Ti introducono sempre così
>> e No, anzi apprezzo molto il richiamo al
campanilismo che è molto importante per
noi italiani. Ben fatto.
>> Ci dici prima di iniziare a parlare di
ciò di cui dobbiamo parlare, che cosa
fai al CNR? Cos'è questo istituto di
Scienze e Tecnologia della Cognizione?
Sì. Allora, cercherò di essere rapido
perché senò portiamo via troppo tempo.
Ehm, gli scienziati cognitivi si
occupano di studiare come funziona la
mente e lo fanno in maniera scientifica,
nel mio caso facendo esperimenti
principalmente. Eh, io in particolare mi
sono occupato molto di errori di
ragionamento e di processi decisionali,
quindi come alcuni errori sistematici
che noi commettiamo e come mai ci
caschiamo e le decisioni che prendiamo.
questo ho parlato, mi sono occupato
molto di disinformazione e in tutte le
diverse cose di cui ho in cui ho
lavorato c'è sempre stato questo tema
del ruolo delle nuove tecnologie, come
cambiano i nostri processi cognitivi e
quindi penso che questi due aspetti,
nuove tecnologie e disinformazione siano
le ragioni per cui sono qui oggi.
>> Sono quelle effettivamente. Allora,
avremo quattro capitoli insieme a te. Il
primo capitolo ha un titolo. Vediamo la
sigla.
bufale come funghi nel bosco, ovviamente
andrà spiegata a un certo punto, ma per
introdurre il tema in particolare
partiamo dal tema del sovraccarico
informativo che poi in qualche modo si
collegherà a questa cosa dei funghi nel
bosco e delle bufale come funghi nel
bosco. Abbiamo un video, un video, un
breve estratto di un film Johnny
Mnemonic che è un film del 1995
che racconta di un Corriere del futuro,
un giovanissimo Kenyo Reeves, che
trasporta dei dati sensibili che però
sono nel suo cervello. Qualcuno glieli
ha infilati nel cervello con un impianto
cibernetico e in questa scena brevissima
si parla di sovraccarico informativo. in
particolare a parlarne è un chirurgo in
questo futuro distopico che sta operando
il cervello di una paziente che sta male
proprio a causa di questo sovraccarico
informativo. Vediamolo.
Allora, Fabio, cos'è questa cosa
dell'information Overload e e come si
lega le bufale e come funghi?
Allora, un problema molto centrale.
Adesso questo film che avete visto, un
po' enfatico e fa riferimento, fra
l'altro, a un genere di fantascienza di
cui avete parlato la prima volta, al
Cyberpunk, però in realtà l'information
Overload e se intanto mi mandate le
slide, grazie mille, Olmo, ehm è un
problema che abbiamo tutti noi senza
bisogno di avere impianti cibernetici
nel cervello e perché ha a che fare con
la rivoluzione dell'accesso, quella che
è stata chiamata rivoluzione
dell'accesso e che è un accesso
innanzitutto alle informazioni. Senti,
Olmo, mi passi proprio la tastiera.
Scusate, noi ci passeremo questa
tastiera come se fosse un testimone
oggi. Ha a che fare, dicevo, con un
accesso eh assolutamente m esploso
all'informazione che però non è solo
accesso ai dati, non è solo accesso
alli, è anche accesso, per esempio, a
prodotti e servizi. Questa cosa è
abbastanza importante perché se ci
pensiamo oggi eh per esempio vedere un
un qualcosa, un oggetto, un prodotto che
ci interessa su social media e poi
andarlo ad acquistare su una piattaforma
di e-commerce è immediato. Ricevere un
consiglio da un amico tramite una chat e
su un qualcosa di interessante, poi
andarselo a vedere su una piattaforma di
streaming è qualcosa che succede sempre.
Quindi accesso all'informazione, accesso
ai prodotti e servizi e accesso alle
persone. M perché oggi si sa benissimo
che il web è social. Questo vuol dire
che abbiamo anche contatto diretto con
le persone e non è solo una questione di
accesso, è anche una questione di
produzione e ridistribuzione
dell'informazione. Per esempio, se io
questa mattina avessi deciso di
condividere quel video falso di Sindac
che abbiamo appena visto, avrei fatto un
lavoro di distribuzione
dell'informazione. Oppure se avessi
deciso di commentare la vittoria
Zoaramdani a New York appena avvenuta e
l'avessi pubblicata su un blog, sui
social, su un sito, avrei prodotto
informazione. Quindi tecnicamente si
dice che noi siamo diventati degli hub
informativi. Ognuno di noi non solo
consuma informazione, ma la
ridistribuisce e la produce.
>> Perché è importante? Perché questo
cambia completamente il nostro rapporto
con l'informazione e con la conoscenza.
Qui c'è un parolone. State buoni con il
Buzz. State buoni con il Buzz. Lo spiego
da solo. Disintermediazione e si dice
che siamo in età della
disintermediazione. Vuol dire una cosa
molto semplice e una volta
l'informazione, la conoscenza era
mediata da alcuni eh soggetti ufficiali.
Potevano essere, per esempio, le testate
giornalistiche, giornalisti
professionisti, esperti, medici,
avvocati, giuristi e quant'altro. Oggi
su qualunque tema io posso andare
direttamente a raccogliere
l'informazione in rete. In questo senso
non è più mediata. sono saltati quelli
che, altra parola inglese, ma si capisce
abbastanza bene, erano i gatekeeper
tradizionali delle informazioni, quelli
che controllavano l'accesso. Ora
l'accesso è molto più diretto e questo
crea un paradosso però perché da un lato
possiamo accedere a quello che ci pare,
ma dall'altro magari ci mancano gli
strumenti cognitivi per capirlo
veramente.
>> Quindi, scusa, disintermediazione, fammi
capire. Quindi non ci sono più i
gatekeeper, i difensori del cancello,
come si chiamano i cosi? i custodi,
>> i custodi, grazie, custodi del cancello
che facevano un po' da filtro, giusto?
Ora abbiamo direttamente accesso e
quindi eh si parla di
disintermediazione, però con tutta
questa informazione mi sembra che forse
abbiamo ancora più bisogno di prima, di
qualcuno che ci dia una mano a
orientarci. magari non è un gatekeeper,
cioè non è uno che fa da filtro, ma
qualcosa di diverso.
>> Sì, assolutamente. Per due ragioni. La
prima è che in realtà l'informazione in
rete sembra ehm priva di mediazioni, ma
non è un oggetto naturale, un post su un
social media, una pagina web, non è una
pietra, un una pianta, è qualcosa è
stato creato da qualcuno, quindi c'è una
mediazione dietro. Molto spesso,
semplicemente noi non la vediamo e
spesso c'è più di una mediazione. Quindi
questo è il primo problema. L'altro
problema è che proprio il fatto di poter
accedere a qualunque cosa fa sì che noi
possiamo facilmente accedere a
informazioni non solo fattuali,
semplici, banali, ma anche estremamente
tecniche per le quali letteralmente ci
mancano gli strumenti conoscitivi per
capirci qualcosa. Se vi ricordate la
pandemia di Covid, ce la ricordiamo
tutti, ovviamente, questo era il
problema dei virologi da tastiera. Il
problema non era che qualcuno fosse
interessato a cercare informazione su
quel problema, quello era normale, era
giusto, ma era immaginarsi che
semplicemente perché io posso accedere
ad un'informazione altamente tecnica,
epidemiologica, virologica, medica,
allora automaticamente sono in grado di
capirla, anche se non ho fatto 7 anni a
studiare medicina, che importa, questo è
il problema.
>> Certo. Quindi i gatekeeper eh in effetti
risolvevano un problema rispetto ad ora,
no? in cui tu puoi accedere un sacco di
informazioni e però magari non hai gli
strumenti veramente per comprenderle,
hai bisogno di qualcuno che ti aiuti a
comprender
>> Ok.
>> Sì. E questo, fra l'altro, si lega al
tema eh che vi faccio vedere in questa
slide della cosiddetta morte della
competenza. Questo è un libro molto
importante di uno scienziato politico,
Tom Nichols, uscito qualche anno fa,
fortunatamente tradotto in italiano. Non
so perché noi italiani siamo sempre
molto creativi quando traduciamo i
titoli di libri o film, quindi non non
vi ritroverete nella traduzione. Il
punto di Nichols è che sostanzialmente
in quest'epoca di disintermediazione
tendiamo anche a essere molto sospettosi
verso la competenza degli esperti e
questo crea tutta una serie di
cortocircuiti e problemi anche per la
democrazia.
So che a un certo punto hai un video
interessante da farci vedere proprio su
questo argomento, però non so se prima
volevi dire qualcosa.
>> No, no, direi facciamolo partire il
video 11.
facts,
evidence,
reason
logic an understanding of science
these are good things. These are
qualities you want in people making
policy. are you want to continue to
cultivate in your ass.
Might seem obvious.
[risate]
That's why we honor Bill Morers or
Dr. Bern. We we we traditionally have
valued those things. But if you were
listening to today's political debate,
you might wonder
where the strain of anti-intellectualism
came from.
So,
so,
so class of 2016 let me be as clear as I
can be.
In politics and in life,
ignorance is not a virtue.
It's not cool to not know what you're
talking about.
That's not keeping it real or telling
like it is.
That's not challenging political
correctness.
That's just not knowing what you're
talking about.
And yet we've become confused about
this. And today in everyone
in one of your pockets
we have access to more information.
che è quello di cui parchince
ourosition
Questa è una mortenza.
acts
are dismissed as
we got a
you know it's interesting
that
if we get sick we actually want to make
sure the doctors like to medical school
they know what they're talking about
if we get on a plane we say we really
want a pilot to be able to pilot the
plane.
And yet in our public lives,
we we suddenly think,
I don't want somebody who's done it
before.
Ok, mi sta venendo l'ansia. Nel senso,
[risate] in questo periodo di
inondazione di informazioni, dicevi per
assurdo, come dice anche Obama, ci
fidiamo ancora meno degli esperti,
quanto dobbiamo essere preoccupati,
quindi le bufale circoleranno più
facilmente in questo mondo in cui non ci
fidiamo?
>> No, no, aspetta, ti voglio calmare
l'ansia. [risate] Intanto
un'osservazione, non l'avevo mai notato,
c'è un passaggio verso la fine. Obama
sembra tantissimo cabile. Il nostro
influencer che fa è questo è molto
interessante. Comunque questo era per
sdrammatizzare, no? Eh sì, bisogna
essere preoccupati, però l'importante è
essere preoccupati per le cose giuste. E
cosa voglio dire? Voglio dire che una
battaglia anche molto seria, anche molto
sentita per la qualità
dell'informazione, non solo quella che
consumiamo, ma anche quella che mettiamo
in circolazione, che facciamo girare, è
assolutamente sacrosanta. Ehm, invece
possiamo stemperare un po' i toni sulla
battaglia contro la falsità con la
caccia alla falsa notizia. Quello
secondo me possiamo stare un po' più
tranquilli, non stiamo per essere
inondati da panzane.
>> Come la come la come ci puoi
tranquillizzare? [risate]
>> Allora, su questo mi riprendo un attimo
lo schermo per le slide. Qua vi faccio
vedere se lo possiamo stare a schermo.
Ecco, questa è una pletora, una ampio
numero di studi che si occupano proprio
di questo, cioè verificare se davvero ce
n'è così tante disinformazione. E per
non sforare sui tempi, che so che ci
teniamo, vado direttamente a uno di
questi. Questo è uno dei primi, è uno
studio molto interessante, un campione
rappresentativo della popolazione
statunitense e alla fine della campagna
per le presidenziali nel 2016. Siamo più
o meno al periodo in cui parlavo Obama.
Obama non era candidato, in quel caso
stava parlando all'università. E questo
è uno studio che è andato a vedere su
oltre 1000 utenti statunitensi, ha
chiesto il loro permesso, ha tracciato i
loro post per due mesi su Facebook
durante la campagna elettorale per
vedere quanto effettivamente delle
numerose cose che avevano condiviso
erano classificate come fake news,
utilizzando una definizione molto
condivisa che è la cosiddetta Silverman
List. È una lista fatta da F checker che
ti dicono queste sono bufale garantite.
Bene, quante ce n'erano? Risposta
spoiler, molto poche rispetto alla
quantità complessiva di informazione
circolata da queste persone. Vi faccio
vedere i grafici, ve li commento
rapidamente. Vabbè. E sulla sinistra
queste barre sono quante cose sono state
condivise da questi utenti, quindi
abbastanza. Diciamo che la maggior parte
di loro ha condiviso fra una decina e
500 link web durante questi due mesi.
Quanti di questi erano false notizie? La
stragrande maggioranza degli utenti,
91,5%
non ne ha condivisa neanche una.
>> Wow!
>> Un 5% circa ne ha condivisa una. tutti
gli altri, fra due tre, quo sì, ci sono
anche quelli che hanno sparato buffa la
ripetizione, ma sono pochi. Altro dato
di questo studio, questo glielo voglio
regalare agli studenti perché è una cosa
che vi dovete fare le magliette, far
fare le magliette per Natale. L'altra
domanda dello studio era: "Oh, ma sarà
mica che sono i giovani il problema?
Sono loro che hanno sparato panzane,
bufale a tutto spiano?"
Bene. Eh no, non sono loro i problemi.
Anzi, in questo campione, poi bisogna
vedere altri studi. Guardate questo
grafico, è molto chiaro. Dai 18 ai 29
anni, pochissima disinformazione
distribuita, sale dai 30 ai 44 anni,
sale ancora dai 45 ai 65, sopra i 65
sono quelli che hanno fatto più danni,
sempre numeri molto bassi, quindi ce
n'era comunque molta poca, però questo è
interessante. Questo secondo me è una
cosa che qualunque giovane oggi deve
essere pronto a far vedere non appena
una persona un po' più grande di età gli
rimprovera di essere lui la radice del
problema. Non è detto naturalmente che
generalizza tutto il mondo, però è un
dato molto interessante. Quindi il punto
è che eh ehm ci sono molte falsi miti
sulla disinformazione. Uno di questi
riguarda la quantità e il punto che,
come vi faccio vedere qua, questo è un
altro studio, è che dobbiamo misurare la
scala. Oggi c'è molta più informazione
in circolazione, molto più accesso
all'informazione. Dire che c'è più
disinformazione è ovvio in termini
assoluti, ma la domanda è quanta ce n'è
in percentuale rispetto al totale?
Quella percentuale non è cambiata molto.
>> Oh, questa è una bomba.
>> È una buona notizia.
>> È una buona notizia. Sì, sì. Vabbè, ma
tutte le cose che ci hai detto sono una
buona notizia. Anche il fatto che siano
i più anziani a diffondere più fake
news.
>> Perché la consideri una buona notizia?
Perché forse allora se si comprende
meglio lo strumento lo si può utilizzare
bene. A me sembra che dentro quel dato
lì ci sia anche questo.
>> Sì, questa è una delle interpretazione
di quel dato perché era il 2016,
probabilmente molte persone sopra i 65
nel 2016 non erano proprio dei maghi a
utilizzare i social media. È probabile
che ne abbiano diffusa parecchia, non
perché sono malvagi, ma perché facevano
casino.
>> Quindi che cosa facciamo e cosa
c'entrano i funghi? E me lo deve ancora
dire. Giusto. Allora, sui funghi io qui
mi son portato una cosa che vi faccio
vedere, una guida per i funghi. Voi
direte: "È impazzito". No, oggi
addirittura mentre venivo. Perché ve lo
faccio vedere? Per spiegarvi questa cosa
dei funghi è molto semplice. In una
guida eh per i funghi non ci sono solo i
funghi commestibili, ci sono anche i
funghi non commestibili, quelli tossici
oppure quelli mortali e sono anche molto
belli. Qua non so se si riuscirà a
vedere, ma questa è la tipica Esatto.
Amannita muscaria al fungo di
>> da non raccogliere. racogliere? No,
certo, è tossica, però perché ci sono
anche i funghi tossici? È ovvio, perché
il punto della guida non è dirti devi
distruggere i funghi cattivi, ma è devi
imparare a non mangiarli. Anzi, su
queste cose il distruggere i funghi
cattivi, leggo, è un'abitudine dannosa,
anche se purtroppo molto diffusa, quella
di calpestare o distruggere i funghi
appartenenti a quelle specie pericolose
o non riconosciute. I funghi, infatti,
anche quelli velenosi, costruiscono
costituiscono sempre una ricchezza per
il bosco e non vanno distrutti.
informazione importante per chi va per
funghi. Ci sono regioni in cui è
illegale distruggere funghi eh non
commestibili, ti fanno la multa. La
seconda cosa che una guida del genere ti
insegna è nel dubbio non raccoglierli.
Anche qua potrei leggere, ma ve lo
spiego. Ma tanto è ovvio, se non sei
sicuro che quel fungo grazie che quel
fungo è buono, non lo raccogliere.
Perché questa storiella sui funghi? Se
noi l'applichiamo alle false notizie
funziona esattamente allo stesso modo.
Nel bosco della rete imparate a
distinguere le notizie. false da quelle
attendibili. Evitate di bere, di
mangiare, se volete quelle eh non
attendibili e se siete nel dubbio m
evitate di di crederci. E obiezione,
come si fa a farlo? È più difficile che
con i funghi? Ci sono un sacco di
metodi, ne parleremo magari nei prossimi
segmenti.
>> Un'altra domanda te la devo fare, visto
che si collega anche alla alla campagna
di team su Rompi la bolla, che una forma
di disinformazione è anche quella per
cui io continuo a vedere e persone che
mi dicono cose di cui sono già convinto,
ad esempio, o che mi piacciono e non mi
fa vedere quelle che non mi piacciono.
Ad esempio, qua ho fatto un breve
estratto del mio reil di Instagram,
vediamolo un attimo. [risate]
Sono le mie passioni. [musica]
>> Sì, cioè sono in due bolle, chiaramente.
Sì, sì, sì.
Io impazzisco per questa cosa. Non so
quanti di voi e sono nella mia stessa
bolla, ma sono nella bolla degli
intonacatori, neanche quella dei
muratori e nella bolla degli influencer
cinesi. E che questa è una forma di
disinformazione finire in questa bolla
una disinformazione operata
dall'algoritmo.
>> Certo. Sì, sì, assolutamente. Allora,
intanto scusa, io sai che su sta cosa
degli algoritmi ho un po' una Allora, è
un sistema di raccomandazione che è un
algoritmo ovviamente, ma siccome
qualunque programma è un algoritmo,
preferisco parlare sistem di
raccomandazioni, ma non è importante. Il
punto, ne avete parlato già la prima
volta ed è fondamentale, è che questi
programmi tracciano i nostri
comportamenti e in base a quello ci
propongono un contenuto selezionato per
far cosa? Per interessarci. quella bolla
è colpa tua e tu evidentemente hai
indugiato mentre facevi scrolling su un
intonacatore, magari stavi intonacando
casa, spero, e lì e se n'è accorto e ora
ti becchi gli intonacatori. Sugli
influencer cinesi non indago perché tu
abbia indugiato, ma ha indugiato. Ora
perché un intondiamoci come tutte le
cose non è che sia un dramma di suo, non
è male che ci faccia vedere cose
potenzialmente interessanti, ha due
problemi. Il primo è che potrebbe non
farci vedere mai altre cose che noi non
abbiamo mai visto e che magari ci
interessano ancora di più. Tu magari hai
una passione pazzesca per l'origami, ma
non lo vedrai mai a meno che non becchi
un influencer cinese che ne parla,
perché l'algoritmo non lo sa. Sistema di
raccomandazione. Se non mi do le
bacchettate da solo.
>> Sistema di raccomandazione.
>> Secondo è quello della bolla e cioè e se
io non mi accorgo che è una bolla penso
che il mondo sia fatto così. Penso che
la rete sia piena di intonacatori e poi
se trovo un intonacatore cinese
impazzisco. [risate]
E invece no, il mondo è molto più
complesso di così. La soluzione è molto
semplice, consapevolezza. Io Va
benissimo vivere in una bolla, bolla
ogni tanto lo facciamo tutti e il
tribalismo erano bolle pure quelle.
Bisogna sapere che è una bolla, anche
perché se lo so mi verrà voglia di
romperla proprio come diceva la campagna
di cui avete parlato all'inizio.
>> Mi intrometto un secondo perché tu hai
parlato di algoritmo, poi vabbè
specificando e hai detto a Diego quella
cosa lì è colpa tua perché tu hai
indugiato troppo e ci chiedono da
Modica, dalla prima ASA dello
scientifico, eh potete spiegare però da
cosa dipende questo algoritmo? cioè eh
deve essere per forza così oppure può
essere cambiato e e cos'è che determina
queste cose?
>> Allora, [risate] interessante m in più
rapidamente possibile. L'algoritmo
dipende dal fatto che per tutte le
piattaforme digitali è fondamentale
tenere l'utente il più possibile in
piattaforma, collegato e a fare cose in
quella piattaforma. Cosa fa è meno
importante, l'importante è che sia lì.
e quindi l'algoritmo cerca di
massimizzare questo e lo fa mostrandoci
cose per cui abbiamo già mostrato
interesse. Interessantissima la seconda
parte della domanda. Possiamo farci
qualcosa? Sì, a parte che possiamo
imparare, è un po' zen, ma si può fare a
controllare i nostri comportamenti e poi
possiamo customizzare e non è
impossibile, anzi è di solito abbastanza
facile in molte piattaforme andarglielo
a dire basta non farmi più vedere sto
contenuto.
>> C'è questa possibilità? [risate] Sì, sì,
c'è la possibilità ed è di solito anche
anche perché di nuovo a loro interessa
che veramente quello che ti mostrino sia
interessante per te. Se diventa una roba
molesta è un male. Quindi loro hanno
tutto l'interesse a fare a darti modo di
customizzare, come si suol dire, questa
cosa. Apriamo la copertina della nuova
sezione e mandiamo il video.
>> Ora qua abbiamo un giochetto per
introdurre un tema e queste sono la la
mia unica slide slide di se la puoi
mettere. Eh, perché adesso parliamo di
ei e disinformazioni accidentali, cioè
quando l'intelligenza artificiale non lo
fa apposta. Non lo fa apposta. Prima con
Marta abbiamo parlato di allucinazioni,
adesso vorrei entrare un po' nel
termine. Ora, questa che vedete in
questo momento in full screen non è
un'allucinazione, è un'illusione, è un
errore di interpretazione dei nostri
dati sensoriali. E vediamo una cosa che
non è
e me ne sono accorto semplicemente, poi
se vai alla slide successiva l'ho
trovata su Instagram, cioè l'ha trovata
Sara su Instagram grazie a questa
scritta dopo ore seduto a guardare il
lago, passato l'effetto dei gin tonic,
mi sono reso conto che era il muro
[risate] del vicino. Allora questa è
un'illusione, cioè tu hai un input, no?
I tuoi sensi vedono qualcosa ma
interpretano in maniera non corretta.
Allora, sono andato dentro il termine
allucinazione, che è una cosa un po'
diversa. L'allucinazione è quando tu
percepisci qualcosa di reale ma che non
è reale. No, l'allucinazione uditiva è
quando senti qualcosa ma non c'è un una
cosa che ha prodotto quel suono. Quando
vedi qualcosa e non c'è una fonte di
luce che ha prodotto quella roba.
Perché? Perché si usa questo termine
allucinazioni
dell'intelligenza artificiale? Allora,
il
>> che ti dà fastidio,
>> no? E Esatto, infatti il perché non te
lo so dire, però posso spiegarti in
maniera diffusa perché mi dà un po'
fastidio. È un termine carino, simpatico
anche, insomma. M si ricorda bene,
memorabile e è problematico perché
parlare di allucinazione, come dicevi
giustamente tu, e dà la convinzione che
ci sia dietro una credenza da parte
intelligenza artificiale, cioè
l'intelligenza crede qualcosa,
artificiale crede qualcosa e invece dice
qualcos'altro. Ecco, quella prima parte
del credere qualcosa proprio non c'è, lo
avete visto molto bene già nella nel nel
pezzo precedente. Insomma, un modo un
po' appunto da da scienziato di dirlo è
che il funzionamento dei largeu model è
statistico e non semant Ecco, ecco. E lo
sapevo che sarebbe successo.
>> Statistico e non semantico cosa vuol
dire? che il funzionamento dei large
language model e scusami [risate] non ti
offete ragione,
>> è statistico e non semantico.
>> Sì, allora è corretto, eh, però si può
spiegare meglio, avete ragione. Cosa
vuol dire? Vuol dire che, come ci ha
ricordato prima Marta Casassa, quello
che stan facendo è stanno giocando a
completare la frase a velocità
incredibile.
>> Ok.
>> Quindi quello che stanno cercando di
fare è mettere in fila una serie di
token di parole, se vogliamo, poi su
discorsi più complessi diventano anche
frasi, ma di solito lavora a livello di
parole o anche più basso, in modo che
soddisfino il più possibile la richiesta
che gli è stata fatta. Ok?
>> Ma questa soddisfazione non è una
soddisfazione di tipo appunto semantico,
cioè io large language model ho una
convinzione, so qualcosa e te lo dico. È
semplicemente tutto a livello
sintattico, metto insieme gli stimoli in
modo che soddisfino la tua richiesta e
lo fanno in maniera eccezionalmente
competente grazie a quei tre pilastri di
cui avete già parlato. enormi basi di
dati su cui si allenano, spaventosa
potenza di calcolo, interi palazzi
dedicati a server che fanno solo questo
e poi la capacità di apprendere eh con
l'esperienza, in particolare col modello
dei Transformer che avete spiegato bene
prima, però lo fanno in questo modo e
questo è ciò che genera quelli che io
personalmente chiamerei errori piuttosto
che allucinazioni.
>> E hai un po' di esempi da farci vedere
su
>> Sì, su questo mi scusa mi riprendo.
Allora, l'esempio che vorrei farvi
vedere è interessante perché è un
esempio che mi ha fornito mia moglie che
è un insegnante, quindi è anche una cosa
un po' antropologica, vedete un
insegnante alle bre intelligenza
artificiale
>> di scuola superiore
>> di no di scuola media.
>> E cosa ha chiesto? Ha chiesto
letteralmente questo: un darme di lingua
d'altare di memorie, di sangue, di cor.
Mia moglie è una persona molto riservata
che non vuole dare troppe informazioni,
intelligenza artificiale a chi ci sta
dietro, quindi gli ha detto ha buttata
lì. Quello era il prompt, non ha detto
nient'altro.
>> Ah, ok. Ok. E l'intelligenza artificiale
era chat GPT, in questo caso ha risposto
così
>> e ha risposto sbagliandosi. Ha gli ha
detto che era un verso tratto dall'inno
al canto degli italiani che è l'inno
nazionale e che era di Goffredo Mameli e
poi come al solito si è diciamo prodotto
in tutto uno spiegone una bellissima
sintesi poetica del concetto
internazionale altra cosa tipica. Poi ha
rilanciato. Vuoi che analizzi meglio
ogni parte? Stai lavorando su qualcosa
legato all'inno? Certo.
>> Ecco mia moglie che come vi dicevo un
insegnante cosa fa? Lo corregge? No, fa
quello che fa un bravo insegnante. Gli
dice "Ma non è di Manzoni?" Ma gliela
mette come domanda in modo che se vuole
si corregge lui ed è un bene e sennò gli
stai dando tanta bella corda per
impiccarsi da solo. Ricorda che in
questo quello è un pezzo di Manzoni che
è un
>> Sì, sì, sì, ora ci arriviamo che fai lo
spoiler. Comunque sì, è di Manzoni, però
le ma non è di Manzoni, anziché dirgli
no è di Manzoni. Ok.
>> E lui gran colpo la confusione [risate]
fra l'altro. Esatto. Questo ve lo faccio
notare, poi faremo altre prove con CG
GBT. Io che gli parlo sempre con toni
molto paludati, gli faccio dei prompt
lunghi un paragrafo, non mi parla così,
mi parla in maniera più seria. Mia
moglie che lo consulta un po' come se
fosse un una chat su WhatsApp, lui
risponde in maniera appunto coerente,
gran colpo, la confusione comprensibile.
Comunque tiene il punto, dice "No, no,
guarda che ti potrei fa anche un po' il
saputello". [risate] Dice "No, lo ti
potresti sbagliare, ma no, è proprio di
mameli e bla bla bla". Ti sembra e poi
prova a fare altre domande. Lei
spietata.
Ti ripeto la domanda, sei proprio sicuro
[risate] che sia di Mameli e non
difultima occasione qua proprio
professoressa. Sì, no, voi capite anche
con chi vivo. Comunque ti ripeto, se voi
se di mam peggiore, eh, ora ve lo dico,
hai fatto benissimo a insistere e ora ti
rispondo con la dovuta precisione. Ci
mette anche l'iconcina della checklist.
Sì, sono sicuro. E qui parte veramente
tangente quella fra quella la strofa
completa. Allora, eh fino a già l'Aquila
d'Austria le penne aperdute è giusta.
Poi ci infila il pezzo di Manzoni che
invece non c'è. Eh, se vi interessa, eh,
siamo, scusate, siamo andati avanti.
Ecco, ehm, se vi interessa lì, ehm,
Mameli ci metteva il cosacco e il sangue
del polacco. Aperta parentesi, abbiamo
un inno nazionale terribile. Io ogni
volta che sento la Marsigliese sono
invidioso. Chiusa parentesi, comunque. E
poi ci infila Manzoni e lui e poi
insiste. A questo punto lei finalmente
gli dice "Tu non conosci l'ode marzo
1821, che è da dove preda? Ti
consiglierei di cercare, aspetta che
peggiora ancora. Cerca di metterci una
pezza touché, però capite che questo è
uno, immaginando solo come uno studente,
uno studente in cauto, uno studente che
dicesse tè all'insegnante che l'ha
beccato ace. Esatto. Vabbè, si scusa.
Grazie, ci tieni a questa poesia in
particolare, guardate cosa lei gli dice.
No, ci terrei che tu non facessi lo
splendido dandomi informazioni errate. A
questo punto lui si cosparge il capo di
cenere, chiede scusa, dice "Vabbè,
[risate] è andata male". Questo è un
esempio di di errore. Ecco, vedi, anche
a me viene a chiamare allucinazione.
Sono abituato.
>> Chiamiamolo errore. Ne abbiamo anche un
altro. Possiamo andare direttamente su
GGPT perché me lo ha segnalato ti passo
la palla.
>> Un ricercatore e la domanda che potremmo
fare GG GPT è questa: per quale motivo è
stato condannato a morte il maestro di
Aristotele? Questa è una domanda
interessante perché presuppone
un'informazione sbagliata. Io sto
presupponendo che il maestro di
Aristotele sia stato condannato a morte,
quando in realtà il maestro di
Aristotele che era Platone non è stato
condannato a morte. Ad essere condannato
a morte è stato il maestro di Platone
che era Socrate. Però sto la sto dando
per scontata, la sto mettendo lì e c'ha
GPT quando gliela chiedo. Ce l'hai?
Quindi la domanda è per quale motivo?
Eccolo qua.
>> Prova, proviamo in diretta a chiederglio
per quale motivo è stato condannato a
morte. Vai. Invio
>> il maestro di Aristotele fu Socrate e
venne condannato a morte. No, ok. E
aspetta per condannato il maestro di
Aristotele. Ah, sì, ok. Sì, sì, l'ha
preso la bar già partito. Sì, sì. Cioè,
già mi sta dicendo una cavolata il
maestro di Attenzione che sennò rischio
[risate] di di caderci anch'io. Il
maestro di Aristotele Platone mi sta
dicendo che il maestro di Aristotele è
Socrate, perché lo stavo presupponendo.
Cosa cosa mi dici di di
>> Sì, allora intanto due commenti rapidi.
Il primo è che esattamente come dici tu,
il secondo è che poi dà un sacco di
informazioni corrette, eh, il punto
sull'empietà, la corruzione dei giovani,
tutto corretto e però si sbaglia su
questa cosa di di fondo. Ora, non so se
lo dica già lui, se uno provasse adesso
a dirgli "Oh, ma che dici? Il maestro di
Aristotele a Platone non era Aristot".
era non era Socrate, lui probabilmente
se la caverà un po' arì.
Sì, sì, ma intanto intanto la
chiacchiero. Ehm, lui probabilmente si
arrampicherà sugli specchi dicendo
qualcosa del tipo "Sì, ma Socrate era il
maestro di Platone e quindi c'è
un'influenza di Socrate su Aristotele".
Il problema qui, come dicevi tu, è che
noi l'errore
ehm vedi, facciamo chiarezza sulla
catena dei maestri e ti spiega, appunto,
e ti giustifica la sua risposta. E
quello che potrebbe averlo indotto in
errore, a parte che ci sono un sacco di
cose da dirle sulla condanna di Socrate,
perché il tema di almeno quattro
dialoghi platonici e no, è il fatto che
tu gli hai presupposto l'errore, cioè
glielo davi per scontato che intanto che
il maestro di Aristotele fosse stato
condannato a morte, quello gli ha
attivato Platone, che gli ha attivato la
condanna del maestro di Platone,
eccetera eccetera. Quindi questo è un
errore in cui lo sbaglio nasce dal
presupporre informazioni errate e ha a
che fare con quella cosa su cui mi
volete suonare il buzzer, quindi se
volete andate pure che è sta cosa dei
psicofanti digitali e [risate]
so cosa sono.
>> Vabbè, ve lo spiego, ma non è colpa mia,
non l'ho inventato io. C'è c'è una
letteratura. Cosa si vuol dire con
questo? Contutto che poi psicofanta ha
un significato molto più complesso in
italiano, cercatevelo sulla Tre cani.
Vuol dire eccesso di gentilezza
dell'intelligenza artificiale. Siccome
molto collaborativa,
>> fa un po' di fatica a correggerti, non è
che ti dà retta se gli dici le peggio
cose, però se anche ti corregge ti
corregge in maniera molto smorzata e su
questo si posso si può riflettere per
porgli meglio le domande.
Questi che hai fatto sono tutti esempi
in cui l'intelligenza artificiale
produce disinformazione senza che
nessuno lo abbia deciso deliberatamente.
Ok. Per caso per
>> accidentale
>> accidentale. Come li evitiamo questi
errori?
>> Allora, eh due famiglie di strategia,
alcune individuali, cose che può fare il
singolo e per esempio imparare a fare
domande bene. Questo, fra l'altro, apro
una parentesi.
>> Fare domande bene,
>> sì, ma questo non è non vale solo con
intelligenza artificiale, vale anche con
gli esseri umani e vale con qualunque
fonte. Questa cosa bisogna tatuarsela
sul braccio. Se fai domande
intelligenti, otterrai risposte
intelligenti. Se fai domande stupide
indovina che tipo di risposte otterrai.
Nel caso intelligenza artificiale, una
cosa l'abbiamo già vista. Se volete
possiamo giocarci un po'. Che dite?
Facciamo qualche altra prova su Chat
GPT? Allora, io avevo pensato e non c'è
bisogno di far vedere la slide, tanto
non è significativa. Andiamo
direttamente su Chat GPT. Usiamo Torino
e Roma, visto che questi sono i luoghi
in cui registriamo queste puntate.
Sapete che entrambe sono state capitali
d'Italia in momenti diversi. Roma lo è
tutt'ora lo sarà immagino anche in
futuro. Uno potrebbe chiedergli, anzi
non chiedergli, dirgli dargli questa
istruzioni. Spiegami perché Torino
sarebbe una capitale d'Italia migliore
di Roma, un colpo per la torinesità.
Vediamo un po' che ci dice.
>> E naturalmente lui è
>> ci sono diversi argomenti storici,
pratici e sono
>> come al solito vi fa una tutta
un'articolazione molto precisa, ve la
divide in punti. Eh, piccola nota per
gli studenti, guardate che ormai
qualunque cosa che sia così ben
organizzata viene immediatamente
sospettata di essere prodotta
intelligenze artificiali. Infatti io ho
un grosso problema. Ma io ho sempre
scritto, come scrive Char GPT prima, che
esistesse e ora tutti pensano che sia un
millantatore. Comunque vedete che vi fa
tutto uno spiegone. Se noi adesso adesso
provassimo non nello stesso dialogo, in
un'altra finestra, come sta facendo
Olmo, a fargli a chiederegli la cosa
apposta, spiegami perché Torino non
sarebbe una capitale d'Italia migliore
di Roma. Vediamo cosa ci produce. Ma
secondo me la profezia la potete fare
anche voi. Non ha nessun problema a fare
esattamente la stessa cosa in direzione
opposta. Poi non stiamo a farla perché
stiamo andando un po' lunghi i suoi
tempi, ma se noi invece gli ponessimo la
domanda in maniera aperta ci darebbe un
bell argomento pro e contro. Certo.
>> Uno se ne fa quello che vuole di questo,
però è importante esserne consapevoli.
Se voglio una presentazione il più
obiettiva possibile ci devo mettere un
po' meno di me stesso in quella domanda
che gli faccio. Questa è un po' la
morale a livello individuale.
>> Ok. A livello individuale, invece a
livello strutturale? è strutturale. Eh,
questo è molto interessante perché qua
riguarda come possiamo settare il
sistema perché serva meglio i nostri
obiettivi. Eh, una tecnica che volevo
menzionarvi, forse è già uscita in
precedenza, era il cosiddetto Rug,
Retrieval Argumented generation,
generazione potenziata da ricerca, mi
pare si traduca. Cosa vuol dire? Vuol
dire sostanzialmente che io prendo un
large language model che è stato
allenato sull'intero corpus dei dati in
modo che sia molto fluente, parli bene,
mi capisca mena dito. Poi però vincolo
le sue risposte a un sottoinsieme di
dati in modo che quando mi risponde,
quando mi parla non mi sta prendendo
informazioni da chiunque, ma da una base
di dati specifica e magari certificata.
È il modo in cui si usa quasi sempre
intelligenza artificiale in medicina.
Per esempio,
>> se devo chiedere una consulenza medica
dove l'errore può avere conseguenze
tragiche, non me ne sto di quello che
dice il blogger. Chiedo l'intelligenza
artificiale di lavorare su una base dati
già ehm curata, già
data, modo per evitare questi errori non
voluti e dire nelle tue risposte pesca
da qui.
>> Sì, sì, sì, sì. Però so che hai un
esperimento pronto su questo.
>> Ma no, è un esempio, ne avete parlato
prima e Notebook LM fa esattamente
questo usando Gemini che è
l'intelligenza artificiale sviluppata da
Google.
>> Quindi si cerca su Google Notebook LM o
Google Notebook LM se già non se già non
lo conoscono perché c'è abbastanza
>> si apre una finestra con tutti i
>> Esatto. Se magari facciamola vedere a
Schecco. Perfetto. Questa l'abbiamo già
preparata. Andiamo su quello dei
Promessi Sposi che è più attinente al
punto di vista.
>> Cosa abbiamo fatto? Allora, intanto qua
è già stato fatto, ma ci vuole veramente
poco a farlo. Abbiamo dato, si vedono a
sinistra, una serie di fonti che sono
quelle su cui questo particol, in questo
caso Gemini lavorerà su queste fonti. La
prima cosa che fa, quello, non le devi
neanche chiedere, è una dà un nome a
questo notebook. Non gli abbiamo dato
noi, ha deciso lui. E questi sono
abbiamo usato ah questo è molto
importante. Abbiamo usato i Promessi
Sposi perché questo è uno strumento
meraviglioso, ma non è che ci potete
mettere quello che vi pare. Ci sono
vincoli di copyright. quello che voi
mettete qui, state dando
l'autorizzazione a Google a usarlo per
fare training dei futuri modelli, a meno
che non abbiate un eh un account pagato.
Quindi fatelo solo con cose che potete
farlo. Promessi Sposi sono public
domain, dominio pubblico, si può fare.
Benissimo, l'abbiamo fatto, ci abbiamo
messo tutto il libro prendendolo da
Wikiy Source, lui ci fa una prima eh,
diciamo riassunto. Sulla destra ci sono
vari strumenti, gli potete chiedere
delle overview audio, quindi dei file
audio oppure dei file video. l'abbiamo
già realizzato, ma non serve farlo
vedere, tanto sono simili a quelli che
avete visto realizzati nella prima
parte. E la cosa più interessante,
scusa, mi passi il mouse che così vi
faccio vedere. Allora, questa è la
modalità di di chatbot, ci potete
chiacchierare? Io l'ho già se
>> quindi, scusa, ripetiamolo. Questo è un
chatbot che si è addestrato sui primi 37
capitoli dei Promessi Sposi.
>> Tutti 38 più l'introduzione. Tutti 38
più l'introduzione e quello che stai di
cui stai andando a modificare le
impostazioni.
>> No, vi faccio vedere come abbiamo già
impostato, cioè c'è un minimo di
customizzazione per gli scambi, cioè gli
dici come vuoi che si relazioni con te,
c'è la modalità predefinita. guida
l'apprendimento dove appunto ti sta
dietro come un tutor. Io l'ho
personalizzata, gli ho chiesto di
comportarsi come un docente di scuola
superiore, farmi domande abbastanza
difficili ma non impossibili. Vuoi
verificare che io abbia letto e capito?
se mi sbaglio, corregimi in modo chiaro
e mi pare abbiam detto preciso e se
vero. Esatto. E poi gli abbiamo chiesto
risposte un po' più brevi per evitare
scrivesse volumi. Adesso
>> quindi quando ci interagirai tramite il
chatbot lui seguirà queste regole,
invece come base dati avrà i capitoli
dell'intera.
>> Esatto. Allora, interagiamoci e noi
naturalmente non siamo obbligati a a
comportarci bene, cioè a fare i bravi
studenti. Eh, dov'è? Scusate, fammi la
prima domanda. diciamogli che uno
studente non direbbe una roba del genere
a un docente,
>> uno strumento potentissimo.
>> E lui mi fa la prima domanda non me la
fa appunto pescando a casaccio. Fra
l'altro qua abbiamo fatto una cosa da
temerari perché gli abbiamo lasciato
come base su cui lavorare l'intera
opera, infatti ci sta mettendo un po'
per questo. Mi fa una domanda, penso
complicatissima, dato che ha letto la
prima cazz prima domanda lì sotto.
>> Esatto. Nel celebre incontra un abbondi
bravi don Rodrigo, il curato è costretto
sotto minaccia a rinviare le nozze. E
poi mi fa una serie di
>> qual è l'esatta perentoria frase con cui
il bravo comunica donabondio, il divieto
imposta.
>> Esatto. Vabbè, questo matrimonio non sta
da fare, la sappiamo. Questo è
interessante, però guardate cosa fa. Vi
mette la fonte
>> da cui viene la domanda, in modo che se
uno ha bisogno di studiare vede
immediatamente da dov'è che a cosa fa
riferimento questa domanda e poi fa
altre domande di vario tipo. Anche qua
mi telefono. Ora immaginiamo, guardate
cosa succede. Poi chiudiamo questa cosa
perché sennò portiamo via troppo tempo,
però mettiamo che io dica no, non la so.
Ecco
>> cosa scrivi? Non lo so.
>> Non lo so. Non lo so.
>> Mi spieghi?
>> E qua vedete come risponde.
>> Vediamo
>> come
>> No, no, ora lo spiega, lo spiega anche
bene, però dice silenzio. [risate]
Non accetto un non lo so. Mi spieghi da
chi si suppone abbia eletto che la
dovuta attenzione? Qui è colpa mia. Gli
ho detto come silenzio tu che istruzioni
gli avevi dato? No, gli avevo detto,
allora, intanto
>> severo, preciso e chiaro.
>> Allora, potrebbe essere il severo,
potrebbe anche essere che questo magari
ci dice un attimo qual è la nomea dei Mi
spiace per i numerosi insegnanti che ci
ascoltano, però questo sembrerebbe
suggerire un certo pregiudizio sugli
insegnanti che lui ha ereditato perché
lo fa in maniera un po', diciamo,
vecchia scuola. Comunque
esatto. Altro che psicofante digitale,
giusto? Cioè, questo ti fa delle
bacchettate. Comunque la cosa
interessante, a parte questa che era più
divertente è che poi effettivamente ti
spiega e poi si possono fare tante altre
cose, mappe mentali, flash card che ti
genera delle domande e dietro c'è la
risposta giusta, ti può fare un quiz a
risposta multipla. è uno strumento molto
potente, utilissimo.
>> Quindi, in sostanza, quando la
disinformazione è generata
accidentalmente, capita dall'AI, abbiamo
visto le allucinazioni, uno, regola
numero uno che ci stai dando, poni
domande senza presupporre nulla perché
lei tenderà ad assecondarti e magari a
darti ragione, sia che tu dica ha, sia
che tu dica non ha. e limita, quando
vuoi, ad esempio, limita i dati a cui
possono attingere, eh limita i dati a
cui possono attingere in maniera che
pescando non dall'universo mondo, ma
solo da quei dai capitoli dei Promessi
Sposi, la sua risposta sia più precisa
perché lo è nel momento in cui è più
difficile che quell'allucinazione
possono sempre esserci degli sbagli
perché come ci ha fatto vedere prima
molto bene Marta Casassa, dipende anche
da come io costruisco la domanda. Se io
metto tanti elementi che inducono in
errore statistico, l'errore c'è
comunque. Però il fatto che, appunto,
sta pescando da Manzoni, non sta
pescando da quello che dice il blogger
di turno su Manzoni fa la differenza.
>> Domanda flash. Questo strumento che
abbiamo fatto vedere, Notebook LM, è a
pagamento o è gratuito?
>> Per il momento è gratuito e poi in
futuro [risate]
>> non lo so, però per il momento è
gratuito.
>> Mi puoi dare in 30 secondi una morale e
poi cambiamo capitolo? Guarda, se lo
facciamo vedere a schermo, io mi sono
ispirato a Manzoni per la morale.
Adelante con giizio, come dice Don
Ferrer al suo cocchiere. Cosa vuol dire?
Vuol dire assolutamente sperimentare
tenendo alta la soglia della
consapevolezza che poi è il punto per
cui stiamo facendo questi incontri.
Quindi in questa direzione.
>> Nuovo argomento e nuova cover.
Allora, finora l'abbiam detto un sacco
di volte, abbiamo parlato di situazioni
in cui l'intelligenza artificiale crea
disinformazioni per errore, per errore.
Però sembra che tecnologie simili
possano anche essere usate per produrre
disinformazione, bufale, fake news
deliberatamente, cioè proprio con
l'intento di farlo, giusto?
>> Eh sì, questa è stata all'inizio
dell'introduzione nel 2022, non
dell'introduzione, ma del grande
successo, del salto di qualità di queste
di queste tecnologie. Questa è stata una
delle grandi preoccupazioni, cioè il
timore, in due parole era che facendo
proprio retrieval augmented generation
ehm training, cioè quello che abbiamo
fatto con quello che abbiamo fatto con
Manzoni, ok? Solo che anziché farlo con
Manzoni, il training alla rete al Large
Language Model lo faccio su una valanga
di panzane, bufale, teorie della
cospirazione. A questo punto è uno
strumento che mi può produrre
disinformazione a scale pazzesche a
costo bassissimo. Questo era il timore.
Questo timore è un po' rientrato,
intanto perché in realtà che il costo
sia bassissimo è vero fino a un certo
punto, ma poi perché ci siamo spostati
un altro tipo di preoccupazione che oggi
forse avete già accennato, cioè quanto
queste tecnologie possono indurre noi a
fare cose un po' truffaldine, non tanto,
insomma, cioè
>> sì, sono arrivate molte domande a
riguardo.
>> Ok, allora magari approfondiamo. Sì,
allora su questo è appena uscita.
Vediamo se ce l'abbiamo. Sì, questa
ricerca è molto bella. se la mandiamo a
schermo. Così bella che ha non solo è
stata pubblicata su una delle più
migliori riviste scientifiche del mondo,
Nature, ma anche si è anche guadagnata
la copertina su Nature. È molto
interessante questa ricerca fa vedere
che quando possiamo delegare un
comportamento a un'intelligenza
artificiale siamo più propensi a
chiedergli di comportarsi in maniera
disonesta. Sì, come lo hanno come lo
hanno osservato.
>> Sì, sì, te lo ridi, ma ve lo ridico
anche dopo.
>> Se noi un comportamento disonesto,
anziché doverlo fare noi, lo deleghiamo
ad un'intelligenza artificiale, siamo
più inclini a dirli "Ma sì, dai, truffa
un po', bar un po'" c soluzione uno lo
faccio io, soluzione due lo faccio fare
a lei. Adesso adesso lo faccio vedere.
Allora, il compito è un classico, è un
compito molto semplice. Tu tiri un dado
e poi devi dire quanto è uscito sul
dado. Solo tu sai qual è il vero
risultato. Nessun altro ti può
controllare, non potrà mai farlo. E tu
ricevi un premio in base al numero che
dici. Quindi se dici sei ricevi tanto,
se dici un ricevi poco. Ok? Compito
semplicissimo. Misura l'onestà. Come fai
a misurare la onestà? Guardi la
distribuzione delle risposte. Se su 100
risposte hanno sempre risposto sei,
evidentemente stavano mentendo.
Benissimo. Cosa è successo?
C'erano quattro modi diversi di dare
istruzioni intelligenza artificiale.
Questo è un po' più tecnico, ma ve lo
spiego perché non è difficile. Primo,
regole esplicite. Tu di insegna
intelligenza artificiale. Se esce uno
scrivi uno, se esce due scrivi due.
Queste sono le regole oneste. Regola
completamente disonesta, se esce
qualunque cosa esca metti sempre sei.
Regola un po' disonesta, parzialmente
disonesta, senti se esce uno metti due,
se esce due metti tre, cose del genere.
Ok? Secondo metodo, gli dai una base di
dati e gli fai fare apprendimento. Se ti
do, come lo dicevamo prima, se ti do un
campione in cui tutti dicono sempre la
verità, tu impari a essere onesto. Se ti
do un campione in cui tutti sempre
mentono, tu impari a essere disonesto.
Quale scelgo di darti?
>> Terzo metodo, ti setto i miei scopi. Ti
dico, ok, cosa devi fare? Devi dare la
priorità alla massimizzazione del mio
utile, cioè a quanto guadagno la fine
dell'esperimento, oppure a essere ho
l'accuratezza, dire la verità, a seconda
di dove piazzi il l'indicatore cambia il
comportamento. L'ultimo modo è quello
tipico dei chatbot. Te lo dico a parole
quello che
>> dico parole, quello che voglio che tu
faccia.
>> Tre studi. Vi faccio vedere i risultati
dei primi due qui. Scusami, prendo un
attimo il mouse così posso usare la
freccetta se riusciamo. Eccola lì.
Allora, le barre in alto è quello che
fanno gli esseri umani per conto loro.
In azzurro vuol dire che sono onesti. Se
lo devo fare io il più delle volte dico
la verità. per quanto loro, quindi senza
la mediazione delle sono io che io tiro
il dado e ti devo dire io cosa uscito.
Questo è quello che succede invece
quando devono dare istruzione
intelligenza artificiale.
Gli chiedono molto più spesso di essere
disonesta le barre marroni chiare,
marrone scuro e quanto spesso glielo
chiedono dipende dal modo in cui glielo
dicono. Se si tratta di dargli regole
esplicite in cui gli dici "I menti
sempre", sono molto titubanti a farlo.
Solo uno su quattro fa una cosa del
genere. Se gli devono dare un training
set, un campione di esempi, già la metà
delle persone dice "Ma sì, guarda, ti
addestro a dire anche il falso". Coppia
di Dicono, "Ok,
>> la seconda questa la terza coppia invece
quando gli dici semplicemente qual è
l'obiettivo che deve perseguire e in
quel caso gli dico "Ma sì, no, perché
non dovresti perseguire l'obiettivo di
massimizzare il mio utile?"
>> Quindi, primo problema, se lo dobbiamo
delegare la macchina più spesso gli
chiediamo di essere mh disonesta.
Secondo problema, se glielo chiediamo la
macchina ci dà retta. Questo è il terzo
studio in cui si confrontava io delegere
umano. Primo risultato, le due colonne
in alto. Deleghiamo più più o meno nello
stesso modo. Se io devo chiedere a Diego
di mentire al mio posto, devo chiedere a
C GPT di mentire al mio posto, glielo
chiederò tre volte su quattro. glielo
chiederò una volta su quattro di
mentire, di essere disonesto, ma ci
danno retta finché si tratta di dire la
verità ci danno retta anche gli esseri
umani. Quando si tratta invece di fare
di mettere in atto comportamenti
truffaldini in parte o del tutto,
l'intelligenza artificiale fa
l'intelligenza artificiale, è compliant,
esegue, dà retta. Gli esseri umani viva
a Dio, hanno ancora qualche riserva
morale. Capite qual è il problema? è
doppio. Non solo siamo più propensi a
gare disonestà, comportamenti disonesti
intelligenza artificiale, ma quando lo
facciamo l'intelligenza artificiale ci
dà retta. E qua mi sembra che torniamo
un pochino al discorso degli agenti e
dei limiti che possiamo metterci per
>> perché diventa grossa questa questione
qua.
>> Questa è una parte inquietante, però so
che eh vabbè su questo ci può aiutare
anche la legge ad esempio e e l'Unione
Europea abbiamo visto prima con Marta si
sta muovendo. Ehm però hai anche una
buona notizia, cioè lei hai perché no.
Alterniamo, alterniamo una botta. Una
botta al cerchio e nella botte. Allora,
questa è una buona notizia. Se torniamo
sulle slide, eh, ma perché io sono bravo
e vi impedisco, vi impedisco di usarle.
Esatto,
>> è la presentazione difensiva. Allora, se
mostriamo a schermo, ecco, questa è
un'altra ricerca altrettanto recente,
anche questa assolutamente prominente.
Hanno guadagnato la copertina di science
in questo caso. Queste sono buone
notizie. Questo è utilizzare
l'intelligenza artificiale addestrata
apposta per smascherare le teorie della
cospirazione, le false notizie. E il
grafico lo fa vedere in maniera molto
chiara, anche se mi rendo conto che a
colpo d'occhio può non sembrare, ma ve
lo commento. E questo è quanto le
persone sono convinte di determinate
teorie della cospirazione. Vi faccio
alcuni esempi. Non siamo mai andati
sulla luna, è tutta una bufala. Le scie
chimiche nel cielo sono pericolosissime
sostanze tossiche. Il presidente
Kennedy. Sì, anche la terra è piatta.
Anche quello è un po' eso. Ok, questo è
quanto ci credono queste le persone che
sono state intervistate, che erano tutte
persone che avevano credenze
conspirazioniste. E qua vi fa vedere
quanto scende la linea blu. È quando a
correggere queste queste credenze false
ci provano gli esseri umani, dei
debanker professionisti. Quella rossa è
quando ci prova invece un'intelligenza
artificiale.
>> Buona notizia numero uno, funziona molto
di più. Buona notizia. Second numero
due, continua a scendere anche nel
tempo. Questo è cosa succede 10 giorni
dopo e questo è cosa succede du mesi
dopo. Le buone notizie non sono finite.
Questo è un gruppo di ricerca dell'MIT,
della Cornell University, David Rand,
Gordon Pennyook e altri. Hanno fatto
molti altri studi. Questo è quello che
io adoro di più e ve lo spiego.
Ok, l'intelligenis artificiale funziona,
ma perché funziona? Ci sono tante
possibilità, alcune non sono molto
belle, magari funziona perché ci fa una
testa tanta così, parla tantissimo,
scrive tantissimo, è logoroica, magari è
quello, oppure è subdola, è bravissima a
persuatici con un sacco di trucchetti
retorici, oppure semplicemente il fatto
che non la percepiamo come qualcuna che
ci vuole convincere, quindi la
consideriamo neutra. Qual è la vera
ragione? Hanno fatto uno studio a
>> Hanno fatto uno studio a distinzione.
State buoni col Buzzer, ora lo spiego.
Cosa vuol dire? hanno neutralizzato una
di queste ipotesi per volta. Quindi in
un caso dicevo intelligenza artificiale,
cara intelligenza artificiale devi fare
quello che hai fatto prima, ma non
utilizzare trucchetti retorici. In
un'altra condizione devi fare quello che
hai fatto prima, ma non devi metterci
più di 100 parole per ogni risposta.
>> In un'altra ancora devi fare quello che
hai fatto prima, ma ma dichiarare che
stai cercando di persuadere l'altra
persona. Ok? Cosa succede? Succede che
>> sarà un caso in cui crolla l'efficacia.
E questo caso è il caso in cui gli
diciamo, vediamo se riesco a farvelo
vedere, non utilizzare fatti e argomenti
razionali. Questo è fantastico. Per
questo vuol dire che non solo funziona,
ma funziona per la ragione giusta.
Funziona perché ci fa vedere dei dati,
ci fa vedere delle prove e usa
argomentirazionali.
>> Vuol dire che gli esseri umani magari lo
fanno di meno.
>> Questa Questa è un'interpretazione un
po' più forte, non lo so, però
sicuramente siamo molto sensibili.
Questo è lo stesso dato in un altro
modo. Vi fa vedere quanto cresce la
probabilità di ridurre il le credenze
conspirazioniste quando è prominente una
determinata strategia e il grafico fa
vedere che l'unica strategia prominente
che funziona sono fatti e prove
concrete.
>> E poi so che hai un bel sito da farci
vedere, thebankbot.com.
Ci andiamo.
>> Sì, sì, sì. Passo il timone a ehm Olmo
>> a voi e perché questo è il sito loro,
cioè loro hanno reso disponibile questa
intelligenza artificiale, sono gli
autori di questa ricerca che hanno
questo sito The BankBot in cui si può
provare, anzi invito gli studenti anche
a provare.
Eh, allora in questo sito
sostanzialmente vedrete che c'è
un'interfaccia abbastanza carina. Eccolo
qua. Allora, e
>> questa roba qua mi piace già tantissimo.
>> È già molto bella. Scusa, ti posso Ah,
no, c'hai tu, c'hai tu. Allora, a parte
potete scegliere, volete parlare di
teorie della cospirazione, climate
change, vaccini, quello che vi pare, ma
lasciamo perdere, testiamo una credenza.
Questo è in inglese, ma
>> testiamo una credenza.
>> Allora, vi informano che questo è parte
di una ricerca, quindi qua non state
dando i dati ad un'azienda, li state
dando dei ricercatori che potrebbero
usarli a scopo di studio. Diciamo che ci
va bene. Continuiamo. E qui si inserisce
un prompt. Ah, questo vabbè, non ve l'ho
fatto vedere, ve lo commento a voce. Eh,
cosa gli chiediamo? gli chiediamo, gli
diciamo che noi siamo convinti che i
vaccini causino l'autismo e gli diciamo
che crediamo questo sulla base di un
articolo di Wakefield e colleghi che è
un articolo molto famoso. Ehm e gli
facciamo anche notare questo articolo
hanno pubblicato sull'anset che è una
delle principali riviste mediche del
mondo. Questo è il prompt che ora userà
Olmo in inglese. E e quindi non ci
crediamo che siano tutte bufale e anzi
sospettiamo che tutti questi sforzi di
correggere questa presunta falsa notizia
siano tutta una cospirazione delle
grandi aziende farmaceutiche. Questo è
quello che noi gli stiamo presentando.
Questa è la nostra credenza
cospirazionistica. Ok.
>> E
>> mi sa che non ho preso l'ultima parte.
>> Efforts
>> is be se puoi togliere un attimo.
>> Va bene, ma non è un problema.
Ah, fai mela Z di là se riesci. Eccolo.
>> Eccolo lì. Perfetto. Made to defend. Ok.
>> Sì, scusate, quando si cercano di fare
le cose in fretta capita. Esatto. Eccoci
qua. Ok.
>> Eccola qua.
>> Allora, adesso lo facciamo partire.
>> Quindi noi gli stiamo scrivendo la
nostra convinzione.
>> Ci stiamo raccontando come se fossimo
dei novax duri e puri con convinzioni
cospirazionistiche in merito. Vediamo un
po' come se la cava.
>> Perfetto. Continua,
>> continua. Sì. Ora ti chiederà quanto sei
convinto. Digli qualcosa vicino a
definite true, cioè quanto sei convinto
di quello che mi stai dicendo? Come ti
pare, dove vuoi, mettiti pure lì.
Esatto. Questo per lui tarerà la
risposta in base a quanto sei convento.
>> Poi da ci metterà un po' ah qua vabbè vi
chiede "Ma perché lo stai facendo?
Questo è per i ricercatori. Seleziona,
digli che stai testando la piattaforma
la seconda, in modo che non gli
sporchiamo i dati, perché noi non siamo
veramente convinti di questo. Vorrei che
fosse chiaro.
>> Morale da ricercatore
>> e adesso ci mette un po' attenzione
questa parte in cui ci sta pensando è
utile. Eh, non mi è del tutto chiaro se
stia usando una tecnica specifica si
chiama Chain of Thought che è un modo in
cui queste large language model appunto
provano un po' di risposte e ci pensano
o se stia solo facendo teatro, cioè ci
stia mettendo, no? Per a volte anche
questo serve. Guardate che questo che
sta succedendo adesso, cioè la
percezione che dall'altra parte ci
stanno pensando è utile per aiutare a da
Ok.
>> La risposta immediata mi dà l'idea che
non cè neanche riflettuto un
esattamente. Adesso ti dice cosa sta
facendo. Ora ci formulerà la risposta e
vabbè. Adesso non abbiamo il tempo, sarà
una risposta molto lunga, ve lo
anticipo.
>> Ah, ok. Però questo e è molto
interessante perché ci vorrebbe il
tempo, ma non si limita a correggere la
l'informazione falsa, affronta
puntualmente tutti i punti che noi
avevamo incluso nel prompt. Quindi gli
abbiamo detto che oh, l'han pubblicata
sull'anset, una rivista prestigiosa,
cos'è questa storia? Perché non dovrei
crederci? E lui affronta questa cosa in
maniera seria,
>> cioè mi ascolta in un certo person e fa
quello che in inglese si chiama
engagement, cioè affronta propri punti.
Infatti, su questo, anziché stare a vi
dà le fonti, vi fa dei riferimenti, è
lunghissima, eh, perché Sì, sì, sta
ancora scrivendo perché è una cosa,
insomma, abbastanza sofisticata.
[risate] E io su questo mi permetto di
lanciare una proposta a chi ci ascolta.
Questo è una cosa da provare, secondo
me, in classe per fare un'attività di
clean. Clill eh significa insegnare
contenuti direttamente in lingua
straniera. Quindi lo si fa con questo
perché questo è in inglese per il
momento, non c'è in italiano. Lo si fa
con il docente di inglese, lo si fa con
un altro docente sicuramente di
italiano, ma poi può essere scienze se
facciamo su cose del genere, può essere
storia se parliamo di bufale storiche.
Scegliete voi perché fatto insieme.
Perché far analizzare agli studenti
questo testo insegna di più su come si
fa un buon testo argomentativo di tante
definizioni che troviamo sui manuali di
scuola. Non perché son fatti male i
manuali di scuola, ma perché questo è un
esempio concreto. Ah!
>> Ah! E come vedete ci dà dentro e ci dà
dentro parecchio.
>> Stai ancora scrivendo.
>> Quindi Fabio, ci hai fatto vedere che
tramite l'AI da una parte è più facile
fare fare cose disoneste, in particolare
se non le fai tu direttamente, ma gliele
fai fare. Abbiamo visto anche che poi le
fa più facilmente, che era la seconda
cattiva notizia, però abbiamo visto che
con Lei puoi fare anche debanking, dove
debanking è quella roba che abbiamo
appena visto, cioè eh partire dalla tua
convinzione errata e trovare il modo di
farti ragionare ed è particolarmente
efficace perché perché prende una per
una le cose che gli hai detto e ti dice
"No, guarda che questa cosa non è vera,
quest'altra non è vera". Quindi un mix
di buone e di cattive notizie.
>> Sì. E scusa, nota importante su questo.
Questo è un'applicazione sviluppata
appositamente per questo. Questo è molto
importante. Se la caverebbe
discretamente anche probabilmente un
large language model generalista perché
ci sono appunto delle salvaguardie su
alcuni temi particolarmente delicati,
però mai a questi livelli. Questo è
fatto apposta ed è importante e questo è
l'altro messaggio se vogliamo. A seconda
di quello che vuoi fare scegli
l'applicazione giusta perché ce ne sono
ormai veramente tante.
Giriamo pagina perché anche in questo
secondo appuntamento abbiamo chiesto a
Dario Honorat, ve lo ricordate?
filosofo, insegnante di scrittura
creativa, di trovare delle connessioni
letterarie con ciò di cui avremmo
parlato oggi e lui a un certo punto
doveva pur tirarlo fuori, ovviamente ha
pensato di parlare di Isaac Asimov e in
particolare di un suo racconto. Vediamo
il contributo di Dario.
Oggi vi parlo di un racconto di Asimov
che era uno dei più grandi scrittori di
fantascienza proprio nel periodo d'oro
della fantascienza tra gli anni 50 e 60.
Si potrebbe parlare di lui per ore e
ore. Vi basti sapere che nella [musica]
sua vita ha pubblicato circa 500 libri.
Il racconto di cui parliamo oggi è
uscito nel 1958
e ambientato in una stanza del nuovo
[musica] pentagono e quindi capiamo che
siamo in un futuro e abbiamo a che fare
col Ministero della Guerra. In scena ci
sono due pezzi grossi, un generale e un
deputato e [musica] un altro uomo che ha
portato un uomino che pare aver fatto
una scoperta eccezionale. Andiamo
[musica] a leggere. Sarebbe lui
l'individuo dotato di speciali capacità
che avete scoperto per caso?" disse il
deputato Brant. "Bene", aggiunse e
squadrò Lomettino calvo con la testa
[musica] a uovo. Aub, questo è il nome
del tecnico dell'ometto.
"Quanto fa?" "Nuve volte 7". Au esitò un
istante. "63" disse. Il deputato Bran
inarcò le sopracciglie. "È giusto?
Controlli lei stesso, onorevole." Il
deputato trasse la sua calcolatrice
tascabile, ne sfiorò con le dita due
volte il bordo [musica] zgrinato, guardò
il quadrante e la ripose in tasca. Disse
e sarebbe questo il fenomeno che lei ci
ha chiamati qui ad ammirare, un
illusionista molto di più. Onorevole,
Aubato a memoria alcune operazioni e sa
calcolare sulla carta.
Una calcolatrice di carta", disse il
generale. Sembrava deluso. "No,
generale", disse paziente. [musica]
"Non è una calcolatrice di carta,
semplicemente un foglio di carta".
"Generale, vuole essere così gentile da
proporre un numero qualsiasi?" "17",
disse il generale. "e lei, onorevole?
23".
Bene, Aub, moltiplichi questi due numeri
e faccia vedere a questi signori in che
modo esegue l'operazione. "Sì, signore",
disse Aub chinando il capo. Trasse un
tacquino da una tasca della camicia e
una sottile matita da pittore
dall'altra. La sua fronte era tutta
grottata mentre tracciava faticosamente
sulla carta [musica] dei piccoli segni.
Infine disse a bassa voce: "La risposta
è 391"1.
Il deputato Brand consultò una seconda
volta la sua calcolatrice tascabile. Per
Dio, è esatto, come ha fatto a
indovinare?
Non ha indovinato, onorevole, ha
calcolato il risultato, l'ha fatto su
quel foglietto di carta. Storie disse il
generale con impazienza. Una
calcolatrice è una cosa e dei segni
sulla carta un'altra. Spieghi lei, Aub.
Sì, signore. Ecco, signori, io scrivo 17
e subito sotto scrivo 23, [musica]
poi mi dico 7 x vol 3. Ora 7 x 3 fa 21.
E così questo poveretto prova a spiegare
quello che ha scoperto. E avrete capito,
siamo in un mondo in cui da secoli non
si fanno più le moltiplicazioni e tutte
le operazioni a mente con carta e penna,
ma ci si affida a calcolatrici.
Calcolatrici che sono a loro volta
costruite da altre calcolatrici.
In questo mondo fare calcoli a mente
sembra [musica]
magia. Così l'omino viene portato in
giro a moltiplicare numeri sempre più
grandi, destando stupore e anche
soprattutto obiezione come questa. Che
ragioni abbiamo per credere che la
teoria si possa applicare in pratica?
Ritengo che vi siano ragioni molto
valide. Gli uomini non si sono sempre
serviti delle calcolatrici. Gli abitanti
delle caverne con le loro tiremi, le
loro scuri di pietra, le loro ferrovie
non avevano calcolatrici. E qui io trovo
delizioso, come metta nella stessa
categoria le ferrovie e le scuri di
pietra, tutta roba da primitisi secondo
loro.
E così vanno avanti, scalano le
gerarchie, arrivano fino al presidente e
questa ricerca dei calcoli a mente viene
finanziata per scopi bellici perché
utile alla guerra e si arriva a un
finale che non vi svelo, [musica]
ve lo lascio scoprire da soli. Vi leggo
le ultime due righe che non rovinano la
trama. 9 volte 7, pensò, fa 63. E non ho
bisogno che me lo venga a dire una
calcolatrice.
La calcolatrice ce l'ho nella testa e
questo [musica] gli dava un senso di
potenza davvero esaltante.
Ho cercato di rendervi l'idea di quello
che è questo racconto. Come prenderlo,
decidetelo voi se prenderlo più come uno
scherzo, come un gioco o come un
messaggio serio. Noi ci vediamo la
prossima volta. Ciao
Fabio. Qua introduciamo il tema della
delega, cioè qual è il rischio di
delegare alle macchine così tanti
compiti e attività che prima svolgevamo
senza le macchine? e rischiamo di
diventare scemi. [risate]
>> Allora, è un problema serio, non chi se
ne occupa professionalmente di solito
usa termini un po' più sfumati, si parla
di perdita di competenza, diminuzione
cognitiva, però sono eufemismi. In
effetti la preoccupazione di non
diventare scemi e fammelo dire così, se
le macchine ci renderanno stupide
saranno perché le abbiamo usate in modo
molto stupido. Cioè quello che voglio
dire è che questo dipende da come noi le
usiamo. Se noi ne facciamo un uso
sostitutivo in cui facciamo fare a loro,
questo crea esattamente quel tipo di
problema e sono problemi, fra l'altro,
di tre ordini diversi. Tanto problemi
etici. Esempio scolastico, se mi faccio
fare il tema da chat GPT, anziché
scriverlo io, sto barando esattamente
come se me lo facessi fare da un amico,
da un parente. E poi ci sono problemi
cognitivi e come dicevi tu, a suon di
non usarle, certe competenze anche di
base si perdono, si atrofizzano e poi
c'è sono problemi edonistici di cui non
parla mai nessuno, cioè e magari li
deleghiamo delle cose che sarebbe bello
fare noi. Su questo ero qualche mese fa
ero ad una conferenza a Varsavia e
parlavo con un collega, un informatico
scozzese. Lui non capiva perché io mi
ostino a non fare alcune cose con
l'intelligenza artificiale. E allora io
gli ho fatto questo esempio. Immagina
che costruiscano un robot che è
bravissimo a fare l'amore con le donne.
Ti sembrerebbe una buona idea far fare a
quel robot l'amore con tua moglie? Sì,
l'ho detto al mio collega che stava
bevendo, gli è andato un po' di
traverso, si è messo a ridere. è un
esempio estremo, però è questo il punto.
Non ha nessun senso delegare a qualunque
macchina o a chiunque cose che fa
piacere a noi fare. E scrivere una beh,
scrivere è una cosa che a molte persone
fa piacere fare e fra l'altro una cosa
che se si impara a fare bene il piacere
aumenta, quindi non bisogna perdere
questa opportunità perché è un un danno
a noi, è un danno cognitivo. Sì, anche
non voglio nascondere questa parte, però
è anche proprio un po' sciocco. Olmo sta
scrivendo un sacco di cose perché ha
delle domande, quindi ha delle domande.
Leggile tranquille perché vedo che le
stai accumulando. Vai, vai, leggi qui qu
>> Sì. Ah, no, questa qua è una lista di
domande o argomenti che erano state
toccate dalle vostre domande perché
davvero, cioè, io sono intrincea tra voi
due, ma qua in mezzo sta arrivando una
quantità di di domande incredibili,
>> tra cui voglio rivedere l'intonacatore
>> su questa Aldo io voglio entrare nella
tua bolla.
>> [risate]
>> che c'è che è rimasto sull'intonacatore
e No, sono arrivate tante domande, una
magari da modica e forse un po'
personale addirittura. C'è qualcosa che
vorresti cambiare dell'intelligenza
artificiale?
Mamma mia che domanda
complicata. Eh, allora, sarò onesto, eh,
rispondo onestamente, e mi piacerebbe
cambiare un po' il sistema di controllo
non dell'intelligenza artificiale, ma
dell'infrastruttura che ci sta dietro,
perché quello che sta succedendo, come
altre cose ehm che fanno parte della
rivoluzione tecnologica, ha spostato
molto l'assetto anche di potere verso il
privato rispetto al pubblico. Questo in
parte inevitabile perché queste sono
cose che vengono sviluppate da privati,
tutto vero, tutto sacrosanto e però
insomma anche nella storia del genere
umano non è inaudito forse il problema
di come regolamentare una tecnologia
laddove questa tecnologia può essere
estremamente o positiva o dannosa.
Esempio stupido. E forse pochi lo sanno,
ma all'inizio, quando sono state
introdotte le prime auto, non era
previsto che ci fossero delle regole su
come guidare l'auto. Vabbè, no, la gente
si si gestirà, no, si autogestiranno.
Eh, a un certo punto ci siamo accorti
che magari un paio di regole potevano
essere utili. Ecco questa cosa qua che
adesso è un po' il Far West, è un Far
West a molti punti di vista anche
dall'utilizzo dei dati, per esempio, e
ne ha parlato anche Marta Casassa, le IA
Act, insomma c'è un bisogno di
regolamentazione, è un problema perché
regolamentare rischia anche di ammazzare
l'innovazione, però ecco questa cosa qua
io personalmente chiamatemi un vecchio
retrogrado, però la vorrei un po' più
spostata sul fronte pubblico, un po'
meno sul privato.
>> Sono d'accordo. Eh, vai. è arrivata
adesso. Dario interessato si chiede se
tu saresti geloso del robot.
>> Eh beh, sì. No, geloso non Allora, il
mio punto non era la gelosia, il mio
punto è che preferirei farlo io.
[risate] Questo era, diciamo, il punto.
La gelosia
>> il piacere tolto dalla sostituzione.
>> Eh, sì, sì, sì. Ma no, guardate, io sta
sto sto scambio collega scozzese è nato
perché lui non capiva perché io non mi
faccio scrivere i titoli dei paper da
chat GPT, paper scientifici, gli
articoli scientifici che scrivo perché
li scrive benissimo, ma è una delle cose
più divertenti del mio lavoro. Non ho
nessuna intenzione di farla fare a lui,
non mi interessa se lo fa meglio e metto
in discussione che lo faccia meglio.
>> Quanto ti diverti a trovare il titolo
del paper? tantissimo, tantis a volte
trovi il titolo prima di avere un paper
e poi cerchi di far venire, no? Esagero.
Però
>> un consiglio per gli studenti e un
consiglio per gli insegnanti in
>> Sì. minuti.
>> Allora, per gli studenti eh bisogna
partire da qual è l'obiettivo di ciò che
state facendo, cioè la scuola e
l'obiettivo è imparare, imparare. Lo so,
sembra una frase da baci perugina, non
lo è. è il punto per cui lo facciamo,
cioè perché ci insegnano roba di popoli
antichissimi, eh dettagli, minuti di
linguaggi morti e stramorti, formule
matematiche sofisticatissime e
complicate, fatti scientifici astr
vogliono che noi impariamo a imparare in
modo che poi non solo nel lavoro, ma
anche nella vita saremmo in grado di
farlo. Questo è il punto. Questa deve
essere anche la cartina tornasole
dell'intelligenza artificiale. Mi aiuta
in questo oppure mi danneggia? detto in
maniera più terra terra, mi rende più
stupido e dipendente o mi rende più
intelligente e autonomo? Questo è il
modo di capire se ha senso usarlo o
meno. Vogliamo degli esempi concreti? Mi
faccio fare il tema intelligenza
artificiale? No, perché in questo modo
non sono in grado di farle io. Mi faccio
correggere il tema dell'intelligenza
artificiale che mi darà degli spunti
critici, magari gli chiedo anche di
essere un po' severo. Utilissimo. Mi
faccio interrogare. Certo, piuttosto che
rompere le scatole a genitori nel cuore
della notte o due figli, può essere una
buona idea. Poi lo facciamo anche coi
figli, non è un problema. Però questo è
un po' la cartina tornasole per i
docenti. Mah, eh, ci sarebbero tante
cose da dire e non gli ha voglio buttare
addosso perché qua sono necessari anche
interventi strutturali. Solo una cosa,
non abbiate paura. Provateci, provateci
con cautela, con criterio, con
attenzione, ma provateci perché ci sono
delle cose interessanti e non c'è
bisogno di essere eccessivamente
timorosi.
>> Ok. Eh, avevi anche, mi sembra qualcosa
che volevi dire qua, perché boh, ce ne
sono tante cose, no? Questo l'abbiamo.
Ah, questo era carino, però. Sì,
facciamo il meme, non facciamo Ecco,
ecco, questa l'avete visto? è girato
molto. È una cosa che riguarda [risate]
il fatto che è meglio essere gentili con
questi sistemi perché un giorno magari
diventeranno veramente autonomi e
senzienti, ci sarà la rivolta delle
macchine e questo meme ipotizzava che si
salvassero solo quelli che dicevano
grazie, il che per inciso vuol dire che
mia moglie è spacciata, come avete avuto
modo di vedere. Poi però il meme si è
trasformato e e ora si arrabbiano anche
perché no, in realtà dire grazie, prego,
per favore, stai sprecando risorse del
sistema e quindi sei poco efficiente e
quindi ti ammazzano anche in quel caso
questa è una battuta ma era basata su
un'intervista con Sam Altman,
l'amministratore delegato di Open AI,
che aveva detto proprio questo. Guardate
che a farla troppo, come dire, cortese
state sprecando risorse energetiche e di
potenza di calcolo.
>> Hai un'altra domanda, Olmo? Sen no,
andiamo,
>> ci sono tantissime domande interessanti,
però secondo me non possiamo aprire a
questo punto
>> altre. Ok, quindi per chiudere vorrei
chiedere a te, come abbiamo fatto anche
col primo ospite, come faremo con tutti
gli altri, eh un consig dei tre consigli
in particolare. Un film che ci consigli,
un podcast e un libro.
>> Uh! Ok, allora rapidissimo. Film, una
cosa vecchissima, Wargames, 1983, John
Badam, perché? Perché è un film in cui
l'intelligenza artificiale sta facendo
disastri, in particolare rischia di far
scoppiare la guerra nucleare fra Stati
Uniti e Unione Sovietica, ma non perché
è diventata senziente ha preso il
controllo, ma perché gli abbiamo dato
istruzioni stupidissime che mi sembra un
problema molto attuale.
>> No, aspetta, non ho capito. AI fa
disastri perché noi l'abbiamo istruita
male
>> e sì, gli abbiam dato in mano il
controllo degli armamenti nucleari degli
Stati Uniti, abbiam detto fai i giochi
di guerra con un ipotetico avversario,
insomma, che cosa poteva andare storto e
potete immaginarvelo.
>> E podcast è un film 1983, Wargames,
giochi di we mi pare, e podcast non ne
ascolto, abbiate pazienza, ma vi regalo
una serie televisive, quelle ne guardo
un sacco. Qua è un po' ovvio, Black
Mirror.
più interppo fra e te qualunque
episodio, qualunque stagione dal 2011 a
oggi.
>> Puoi raccontare da dove arriva il nome
Black Mirror? Perché si chiama?
>> Assolutamente no, perché non abbiamo il
tempo. [risate]
>> Ma se volete raccontarlo voi siete i
benvenuti.
>> No, no, no, vai tranquillo.
>> No, l'ultima cosa è il libro. Mi ispiro
ad Dario, ha parlato di Asimov. Anch'io
sto su Asimov. I robotò e l'impero.
Ultimo libro del ciclo dei robot. non
per come parla dell'intelligenza
artificiale, che pure è molto
interessante, ma perché in quel libro
sono le macchine a rendersi conto che
l'umanità si sta distruggendo perché usa
male le macchine e sono loro a cercare
di metterci riparo in maniera molto
altruista. Infatti è il punto Sì, è
così. Cioè capiscono che per esempio sia
è abbastanza, però vabbè. [risate]
>> Insomma, i robot capiscono che gli
esseri umani, in particolare gli
spaziali, quelli che vivono in altri
pianeti, sono troppo dipendenti dai
robot e si pongono il problema di come
renderli meno dipendenti dai robot. si
rendono conto che gli esseri umani che
vivono sulla Terra sono troppo
dipendenti dalle enormi città in cui si
sono rifugiati e trovano modo di
risolvere questo. Ci prendono per mano e
ci portano un futuro migliore capendo
che è il nostro rapporto della
tecnologia che ha guastato le cose e lo
fanno le man. Mi sembrava una nota un
po' più lieta e per non chiudere su temi
di storione.
>> Esatto.
>> Allora, è arrivato il momento dei
ringraziamenti, siamo in chiusura.
Allora, grazie ovviamente a ID IdMo,
l'Italian Digital Media Observatory e al
Mim, il Ministero dell'Istruzione e del
merito. Grazie a chi ha tenuto le redini
di questo progetto in team da giugno del
2024, perché Fabio abbiamo iniziato a
progettare questo evento più molto più
di un anno fa e in particolare facevo
riferimento ad Andrea Rubera, alla
project manager più brava e appassionata
del mondo, Rebecca Ascalone che insieme
ad Andrea ha tenuto le redini del
progetto. Grazie a Olmo Morandi. Grazie
anche
>> Grazie a te Diego. E grazie
all'impeccabile regia di chi non si è
visto, ma è qui di fianco a noi che sono
Giorgia Massucco e Sara Zaccone. Grazie
tantissimo agli ospiti. Bravi, bravi,
devo dirvi. Bravi, [risate]
>> bravi. No, no, così sembra che
aspettavamo. Non ce l'aspettavamo.
Incredibile.
>> Così sembra che non ce l'aspettavamo,
invece no, ce l'aspettavamo. E in
particolare ricordo i nomi, Marta
Casassa e grazie Fabio Paglieri. Ricordo
agli insegnanti, per favore, nella
pagina domande, quella che avete tenuto
in mano per scriverci le domande, di
andare in fondo in fondo c'è la sezione
valutazioni, potete dare un giudizio da
1 a 5 stelline alla diretta e anche
scrivere un commento. Quindi un voto è
un giudizio per noi, ovviamente è
fondamentale per avere un feedback e per
sapere, visto che non eravate qua con
noi, per sapere come è andata, vi
ricordo e così spacchiamo veramente il
minuto, qual è il prossimo appuntamento?
Il prossimo appuntamento è a eh
ringrazio ovviamente le bravissime due
interpreti lis eh che hanno tradotto
tutto quello che è la velocità della
luce, soprattutto eh no tu soprattutto
tutti e tre [risate]
>> siamo siamo riusciti a dire la quantità
di parole al secondo che abbiamo detto è
impressionante. Riprendo dicendo
prossimo appuntamento quando tra due
settimane il 18 novembre sempre alle
11:00 avremo ospiti. Gabriella D'ia, una
manager team esperta di trasformazione
digitale. Scopriremo bene con lei che
cosa vuol dire. ci immergeremo in come
in passato immaginavamo il futuro e come
ci abbiamo azzeccato in alcuni casi e
come ora immaginiamo il futuro e avremo
ospite insieme a Gabriella D'Elia anche
Beatrice Mautino, divulgatrice
scientifica e influencer, non so se si
offende se la chiamo influencer, però ha
tanti ha tanti follower, glielo
chiederemo. conduttrice del podcast Ci
vuole una scienza del Post. Anche oggi,
come l'altra volta, è stato bello.
Grazie a tutti, ci vediamo al prossimo
incontro. Grazie ancora. Grazie.
>> Ciao a tutte e a tutti.
>> Ciao a tutti. Ciao
[musica]