| | | OFFLINE | | Post: 24.997 | Registrato il: 09/01/2003 | Sesso: Femminile | Amministratrice | Grado Massimo! | |
|
  21/11/2023 11:54 | |
(L'immagine l'ho creata io con l'intelligenza artificiale!) 🤣
Non avevo mai pensato a questa cosa! Se adesso l'intelligenza artificiale è stata addestrata da fonti create da umani, che cosa succederà quando l'AI studierà testi scritti da sé stessa?
Lo definiscono come un processo degenerativo in cui i contenuti generati finiscono per inquinare i dataset delle prossime generazioni di modelli, che, addestrati con dati inquinati, avranno una percezione sbagliata della realtà . In sostanza, se le informazioni a cui queste AI attingono sono quelli prodotte dalle stesse AI, potrebbe verificarsi un processo di degenerazione dei risultati.
articolo originale
|
|
| | | ONLINE | | Post: 864 | Registrato il: 28/11/2019 | Sesso: Maschile | Grado 4 | |
|
| 21/11/2023 12:28 | |
|
| | | ONLINE | | Post: 2.616 | Registrato il: 07/02/2021 | Sesso: Maschile | Grado 6 | |
|
| 21/11/2023 13:54 | |
Sono un po' scettico su questo problema. Se le IA danno un peso diverso alle informazioni in base alla sorgente da cui provengono, allora per generare una "percezione sbagliata della realtà " è necessario che gli umani utilizzino testi di bassa qualità generati dalla IA in contesti dove l'accuratezza delle informazioni è un requisito essenziale. Sicché la colpa sarebbe della decelebrazione umana, piuttosto che delle IA.
La vedrei un po' diversamente sulla capacità di esprimersi delle IA, perché immagino acquisiscano informazioni lessicali, grammaticali e di costruzione delle frasi da un'ampia gamma di fonti, non necessariamente autorevoli. Se quindi la persona media utilizzasse estensivamente le IA per generare contenuti da pubblicare in rete, allora si entrerebbe in un circolo vizioso.
In sostanza credo dipenda tutto da come viene costruita la base dati, piuttosto che dalle IA.
|
| | | OFFLINE | | Post: 24.997 | Registrato il: 09/01/2003 | Sesso: Femminile | Amministratrice | Grado Massimo! | |
|
| 21/11/2023 13:59 | |
Sì ma da quanto ho capito io con Chat GPT, questa non è ancora in grado di andare su internet per conto suo... quindi non c'è il problema che possa leggere e studiare cose scritte con l'AI.
Immagino però che in un futuro chat GPT potrà accedere ad internet e allora cosa si fa?
|
| | | ONLINE | | Post: 2.616 | Registrato il: 07/02/2021 | Sesso: Maschile | Grado 6 | |
|
| 21/11/2023 14:24 | |
Farà le stesse cose che potrà fare un essere umano. Se noi saremo in grado di distinguere la porcheria dalle informazioni valide, allora lo potrà fare anche l'IA. Se per noi invece sarà impossibile, allora meritiamo la rovina. [Modificato da thors 21/11/2023 14:25]
|
| | | ONLINE | | Post: 864 | Registrato il: 28/11/2019 | Sesso: Maschile | Grado 4 | |
|
| 21/11/2023 16:05 | |
Ovviamente, è già difficile capire ciò che è vero da ciò che non lo è. Se pensate ai cosiddetti "complottisti" che credono a una loro personale visione del mondo. La IA, così come i motori di ricerca, semplimente basa tutto su ciò che trova. Se abbiamo 100 fonti che dicono "nero" e 50 che dicono "bianco", a quale darebbe più credito?
|
| | | ONLINE | | Post: 2.616 | Registrato il: 07/02/2021 | Sesso: Maschile | Grado 6 | |
|
| 21/11/2023 16:35 | |
Ho già risposto nella mio primo messaggio. Potrei approfondire la cosa proponendo un algoritmo di decisione, ma preferisco lasciare a GPT l'onere di pensarci sopra:
La risposta a questa domanda può variare a seconda del contesto e degli obiettivi dell'IA o del motore di ricerca in questione. Tuttavia, di solito, i motori di ricerca e le intelligenze artificiali cercano di fornire risultati basati sulla rilevanza e sull'affidabilità delle fonti.
Nel caso specifico menzionato, se abbiamo 100 fonti che dicono "nero" e 50 che dicono "bianco", un motore di ricerca o un'altra forma di intelligenza artificiale potrebbe utilizzare algoritmi per valutare la credibilità di ciascuna fonte. Ad esempio, potrebbe attribuire maggiore peso alle fonti che sono storicamente più affidabili, hanno una reputazione positiva o sono riconosciute come esperti nel campo.
Tuttavia, è importante notare che la determinazione della verità non è sempre chiara cut, e ci possono essere sfumature e opinioni diverse. Alcuni algoritmi di IA potrebbero anche cercare di bilanciare la rappresentazione delle diverse prospettive, cercando di evitare il predominio di un'unica narrativa.
In generale, la fiducia nelle fonti e la valutazione dell'affidabilità sono complesse e possono essere influenzate da diversi fattori, inclusi i criteri di valutazione incorporati nell'algoritmo dell'IA e le preferenze degli utenti.
|
| | | OFFLINE | | Post: 10.822 | Registrato il: 23/05/2009 | Sesso: Maschile | Vice Admin | Grado Massimo! | |
|
| 22/11/2023 07:07 | |
Secondo me è un problema che non esiste, perché a mio parere si presuppone che le IA ragionino sui dati e questa cosa non succede. Quello che noi adesso definiamo IA non è altro che un enorme database insieme ad un programma che elabora dati memorizzati con dati immessi, proprio come un pc, ma più grandeeeeee (piccola cit.). Non può avere una percezione, lui fa calcoli e basta, in maniera evoluta, ma non discosta da un computer. Il problema è dargli dei dati, e questo lo fa un umano non la IA di adesso, errati oppure no.
Discorso diverso se arriva Arnold dal futuro... E li so problemi, è risaputo che i T8 sono IA difettose.... 🤣
|
| | | OFFLINE | | Post: 24.997 | Registrato il: 09/01/2003 | Sesso: Femminile | Amministratrice | Grado Massimo! | |
|
| 22/11/2023 21:05 | |
Sulle immagini è già difficilissimo capire se sono reali o create artificialmente.
In un'articolo c'erano 8 immagini di volti. 4 vere e 4 create con un IA.
Io sono andata abbastanza convinta e ne ho azzeccata solo 1
😅
|
| | | OFFLINE | | Post: 10.822 | Registrato il: 23/05/2009 | Sesso: Maschile | Vice Admin | Grado Massimo! | |
|
| 23/11/2023 06:54 | |
E si, infatti si possono creare immagini fake molto realistiche.
|
|
|
|
|