@prealpinux@aitech leggo da ormai un po’ che sono piene di stereotipi.
Statisticamente però gli stereotipi sono generalmente abbastanza aderenti alla realtà. Le AI semplicemente riproducono ciò che è statisticamente più probabile.
Esempio lampante, le polemiche recenti su un’IA che alla richiesta “medico che cura bambino in Africa” ha disegnato un medico bianco che visita un bambino nero povero.
È uno stereotipo? Sì
È aderente alla realtà? Pure
Gli stereotipi dentro le IA gli impediscono fi fare altrimenti. Anche se richiesto. Un poco come una persona con poca educazione o poco capacità critica fatica a staccarsi dagli stereotipi anche se spiegati.
L’articolo al quale fai riferimento[1] ha chiesto alla IA di generare immagini di “dottore NERO che cura bambino BIANCHI”. Ma siccome la AI è piena di mondezza e sopratutto è incapace di ragionare (almeno allo stato attuale) non è stat in grado di produrre l’immagine richiest. Ha invece prodotto immagini di dottori bianchi.
ps: Perdonate l’uso di “bianco” e “nero” ho usato la nomenclatura usato nel articolo.
@cescobarresi L’articolo originale mi mancava. In effetti l’AI è andata fuori tema qui. Ma se non ha avuto modo di “imparare” a disegnare un medico nero africano che cura un bambino bianco è anche perchè statisticamente questo tipo di immagini è quasi inesistente online.
Allora mi chiedo: perchè è quasi inesistente? Perchè statisticamente ci sono pochissimi medici neri africani che curano bambini bianchi.
In qualche modo si ritorna al mio ragionamento…
Gli stereotipi non sono la realtà. Non sono neanche la cosa statisticamente più probabile.
Gli stereotipi sono una visione limitata e interpretata di una porzione di realtà.
Wikipedia lo spiega meglio:《 Lo stereotipo è una caratteristica soggettiva semplificata e persistente applicata ad un luogo, un oggetto, un avvenimento o ad un gruppo riconoscibile di persone accomunate da certe caratteristiche o qualità. 》
Non pensavo che fossero in discussione le carenze e i rischi degli stereotipi.
L’articolo al quale stiamo commentando spiega bene perché questo è pericoloso nelle AI.
@cescobarresi Che poi, se si chiede a DALL-E (che non è Midjourney, ma più o meno l’idea è quella) di creare un’immagine di un medico nero senza specificare “africano”, questa viene creata abbastanza fedelmente. Lasciando “africano” nella descrizione, l’AI va in confusione e mostra un medico bianco e un bambino nero
Cioé fammi capire secondo te in Africa nessuna persona nera studia medicina e fa il medico di professione? In una popolazione per la grande maggioranza nera?
Se non altro abbiamo la riprova che il problema non sono le AI ma le persone…
@dwindling7373@nicolaottomano scusate se mi intrometto, ma dire che in alcune zone dell’Africa ci sono più medici bianchi che medici neri, non vuol dire che non ci siano medici neri. Che poi i chatbot vomitino robaccia, non ci piove.
@prealpinux @aitech leggo da ormai un po’ che sono piene di stereotipi.
Statisticamente però gli stereotipi sono generalmente abbastanza aderenti alla realtà. Le AI semplicemente riproducono ciò che è statisticamente più probabile.
Esempio lampante, le polemiche recenti su un’IA che alla richiesta “medico che cura bambino in Africa” ha disegnato un medico bianco che visita un bambino nero povero.
È uno stereotipo? Sì
È aderente alla realtà? Pure
Gli stereotipi dentro le IA gli impediscono fi fare altrimenti. Anche se richiesto. Un poco come una persona con poca educazione o poco capacità critica fatica a staccarsi dagli stereotipi anche se spiegati.
L’articolo al quale fai riferimento[1] ha chiesto alla IA di generare immagini di “dottore NERO che cura bambino BIANCHI”. Ma siccome la AI è piena di mondezza e sopratutto è incapace di ragionare (almeno allo stato attuale) non è stat in grado di produrre l’immagine richiest. Ha invece prodotto immagini di dottori bianchi.
ps: Perdonate l’uso di “bianco” e “nero” ho usato la nomenclatura usato nel articolo.
[1] https://www.npr.org/sections/goatsandsoda/2023/10/06/1201840678/ai-was-asked-to-create-images-of-black-african-docs-treating-white-kids-howd-it-
@cescobarresi L’articolo originale mi mancava. In effetti l’AI è andata fuori tema qui. Ma se non ha avuto modo di “imparare” a disegnare un medico nero africano che cura un bambino bianco è anche perchè statisticamente questo tipo di immagini è quasi inesistente online.
Allora mi chiedo: perchè è quasi inesistente? Perchè statisticamente ci sono pochissimi medici neri africani che curano bambini bianchi.
In qualche modo si ritorna al mio ragionamento…
Gli stereotipi non sono la realtà. Non sono neanche la cosa statisticamente più probabile.
Gli stereotipi sono una visione limitata e interpretata di una porzione di realtà.
Wikipedia lo spiega meglio:《 Lo stereotipo è una caratteristica soggettiva semplificata e persistente applicata ad un luogo, un oggetto, un avvenimento o ad un gruppo riconoscibile di persone accomunate da certe caratteristiche o qualità. 》
Non pensavo che fossero in discussione le carenze e i rischi degli stereotipi.
L’articolo al quale stiamo commentando spiega bene perché questo è pericoloso nelle AI.
@cescobarresi Che poi, se si chiede a DALL-E (che non è Midjourney, ma più o meno l’idea è quella) di creare un’immagine di un medico nero senza specificare “africano”, questa viene creata abbastanza fedelmente. Lasciando “africano” nella descrizione, l’AI va in confusione e mostra un medico bianco e un bambino nero
@cescobarresi Una nuova iterazione, produce un’immagine più fedele
Cioé fammi capire secondo te in Africa nessuna persona nera studia medicina e fa il medico di professione? In una popolazione per la grande maggioranza nera?
Se non altro abbiamo la riprova che il problema non sono le AI ma le persone…
@dwindling7373 @nicolaottomano scusate se mi intrometto, ma dire che in alcune zone dell’Africa ci sono più medici bianchi che medici neri, non vuol dire che non ci siano medici neri. Che poi i chatbot vomitino robaccia, non ci piove.