46 lines
6.6 KiB
Markdown
46 lines
6.6 KiB
Markdown
tags:: #todoist-task, [[SERVICES/PINKAMP]]
|
||
date:: [[04-06-2025]] - 12:24
|
||
progress:: {{renderer :todomaster}}
|
||
|
||
- Si puo pensare di far realizzare alle studentesse un GPT specifico per il task di interesse. Realizzare un chatbot?
|
||
- L'anno scorso le ragazze avevano fatto un GPT per gestire l'ansia
|
||
- 
|
||
- I tutor sono:
|
||
- Isabella
|
||
- Gennaro
|
||
- Alina
|
||
- Oggi [[10-06-2025]] abbiamo avuto una call con i tutor. Si e' deciso di investigare la strada di progettare una sessione di approfindimento che coinvolta tutte le fase principali relative all'uso di strumenti LLM etc.
|
||
- [[References]] per preparare l'intervento
|
||
- [Perché spesso ChatGPT si inventa le cose - Il Post](https://www.ilpost.it/2025/06/10/perche-chatgpt-inventa-cose/)
|
||
- - #[[Clip]] [[15-06-2025]] 16:10 [Perché spesso ChatGPT si inventa le cose - Il Post](https://www.ilpost.it/2025/06/10/perche-chatgpt-inventa-cose/)
|
||
Quando parliamo di AI generative ci riferiamo a modelli linguistici di grandi dimensioni (o LLM), un tipo di tecnologia in cui reti neurali profonde vengono addestrate con enormi quantità di documenti per elaborare e generare testi.
|
||
- - #[[Clip]] [[15-06-2025]] 16:10 [Perché spesso ChatGPT si inventa le cose - Il Post](https://www.ilpost.it/2025/06/10/perche-chatgpt-inventa-cose/)
|
||
In molti casi, questi modelli non sono in grado di capire quando una domanda è al di là delle loro capacità, e provano comunque a rispondere.
|
||
- - #[[Clip]] [[15-06-2025]] 16:10 [Perché spesso ChatGPT si inventa le cose - Il Post](https://www.ilpost.it/2025/06/10/perche-chatgpt-inventa-cose/)
|
||
i LLM hanno ancora un problema con le cosiddette [allucinazioni](https://www.ilpost.it/2024/05/22/ai-allucinazioni/), gli errori fattuali dei chatbot, che spesso inventano fatti e dettagli.
|
||
- - #[[Clip]] [[15-06-2025]] 16:10 [Perché spesso ChatGPT si inventa le cose - Il Post](https://www.ilpost.it/2025/06/10/perche-chatgpt-inventa-cose/)
|
||
il materiale di partenza su cui sono stati addestrati è incompleto, e le AI sono costrette a riempire le lacune, inventando di fatto informazioni (che sono comunque grammaticalmente corrette).
|
||
- - #[[Clip]] [[15-06-2025]] 16:10 [Perché spesso ChatGPT si inventa le cose - Il Post](https://www.ilpost.it/2025/06/10/perche-chatgpt-inventa-cose/)
|
||
Un esempio recente riguarda il quotidiano statunitense che ha [pubblicato](https://www.ilpost.it/2025/05/21/lista-consigli-libri-intelligenza-artificiale/) una lista di libri consigliati per l’estate, includendo titoli non esistenti, generati da un’intelligenza artificiale.
|
||
- - #[[Clip]] [[15-06-2025]] 16:11 [Perché spesso ChatGPT si inventa le cose - Il Post](https://www.ilpost.it/2025/06/10/perche-chatgpt-inventa-cose/)
|
||
Il settore dove questa tecnologia sta avendo l’impatto più profondo è probabilmente quello della programmazione informatica, tanto che in aziende come Microsoft [il 30 per cento del codice](https://www.cnbc.com/2025/04/29/satya-nadella-says-as-much-as-30percent-of-microsoft-code-is-written-by-ai.html) viene già scritto da AI.
|
||
- - #[[Clip]] [[15-06-2025]] 16:12 [Perché spesso ChatGPT si inventa le cose - Il Post](https://www.ilpost.it/2025/06/10/perche-chatgpt-inventa-cose/)
|
||
Ma le AI possono essere usate anche per scrivere (o tradurre) mail e documenti aziendali, o generare slide per presentazioni, mentre è nota da tempo la loro [inaffidabilità](https://www.ilpost.it/2024/07/28/matematica-intelligenza-artificiale/) nei calcoli matematici
|
||
- - #[[Clip]] [[15-06-2025]] 16:13 [Perché spesso ChatGPT si inventa le cose - Il Post](https://www.ilpost.it/2025/06/10/perche-chatgpt-inventa-cose/)
|
||
Il settore legale è stato uno dei primi a scontrarsi con le allucinazioni delle AI, come [dimostrato](https://www.businessinsider.com/increasing-ai-hallucinations-fake-citations-court-records-data-2025-5) dai molti casi in cui hanno prodotto documenti legali con riferimenti a leggi o sentenze del tutto inventati. Le allucinazioni sono così diffuse nell’ambiente legale da aver spinto l’avvocato francese Damien Charlotin a creare un sito che [raccoglie](https://www.damiencharlotin.com/hallucinations/) errori di questo tipo man mano che vengono scoperti.
|
||
- - #[[Clip]] [[15-06-2025]] 16:13 [Perché spesso ChatGPT si inventa le cose - Il Post](https://www.ilpost.it/2025/06/10/perche-chatgpt-inventa-cose/)
|
||
Le aziende che li sviluppano, infatti, sono sempre più in competizione tra loro e hanno capito che la maggioranza degli utenti preferisce un’AI che risponde sempre rispetto a una più cauta.
|
||
- - #[[Clip]] [[15-06-2025]] 16:14 [Perché spesso ChatGPT si inventa le cose - Il Post](https://www.ilpost.it/2025/06/10/perche-chatgpt-inventa-cose/)
|
||
intelligenze artificiali ruffiane”
|
||
- - #[[Clip]] [[15-06-2025]] 16:14 [Perché spesso ChatGPT si inventa le cose - Il Post](https://www.ilpost.it/2025/06/10/perche-chatgpt-inventa-cose/)
|
||
Dopo le critiche ricevute, l’azienda ha modificato le impostazioni ordinando al modello di «interagire con l’utente in modo caloroso ma onesto», mantenendo una certa «professionalità».
|
||
- - #[[Clip]] [[15-06-2025]] 16:15 [Perché spesso ChatGPT si inventa le cose - Il Post](https://www.ilpost.it/2025/06/10/perche-chatgpt-inventa-cose/)
|
||
«sacrificare, in alcuni casi, la veridicità in favore della ossequiosità».
|
||
- - #[[Clip]] [[15-06-2025]] 16:15 [Perché spesso ChatGPT si inventa le cose - Il Post](https://www.ilpost.it/2025/06/10/perche-chatgpt-inventa-cose/)
|
||
Verbosity Compensation, o «compensazione della verbosità», il fenomeno per cui i chatbot sembrano dare risposte più lunghe alle domande su cui sono più incerti, a causa della scarsità di informazioni disponibili.
|
||
- - #[[Clip]] [[15-06-2025]] 16:16 [Perché spesso ChatGPT si inventa le cose - Il Post](https://www.ilpost.it/2025/06/10/perche-chatgpt-inventa-cose/)
|
||
Il grande successo commerciale di sistemi da ChatGPT in poi ha cambiato l’approccio di molte aziende, che hanno abbandonato parte dell’iniziale cautela sul contenuto delle risposte per offrire un servizio che dia sempre una risposta agli utenti.
|
||
- - #[[Clip]] [[15-06-2025]] 16:21 [Perché spesso ChatGPT si inventa le cose - Il Post](https://www.ilpost.it/2025/06/10/perche-chatgpt-inventa-cose/)
|
||
In questo contesto, un fattore importante è la memoria, ovvero la capacità di ricordare determinati precedenti delle loro conversazioni con l’utente e usarli per adattare le loro risposte future.
|
||
- [Una lista di libri consigliati che non esistono - Il Post](https://www.ilpost.it/2025/05/21/lista-consigli-libri-intelligenza-artificiale/)
|
||
- [Why is ChatGPT so bad at math? | TechCrunch](https://techcrunch.com/2024/10/02/why-is-chatgpt-so-bad-at-math/) |