È sempre più evidente la necessità di meccanismi di controllo per prevenire la diffusione di contenuti dannosi creati dall’IA.
Un recente allarme lanciato da Shane Jones, ingegnere dell’intelligenza artificiale presso Microsoft, ha scosso la comunità tecnologica sollevando nuovamente le preoccupazioni riguardo alla sicurezza e all’etica delle tecnologie IA in rapido sviluppo.
Jones, attraverso un’indagine minuziosa, ha scoperto che Copilot Designer, lo strumento di generazione di immagini sviluppato da Microsoft in collaborazione con OpenAI, è in grado di generare contenuti che non sembrano decisamente in linea con i principi di un’intelligenza artificiale responsabile.
Copilot Designer, lanciato con l’intento di stimolare la creatività degli utenti attraverso la generazione di immagini basate su prompt testuali, non ha superato indenne i test di vulnerabilità effettuati da Jones. Questi test hanno infatti rivelato che lo strumento era in grado di generare immagini dal contenuto estremamente inquietante, includendo rappresentazioni di violenza, oscenità, stereotipi dannosi e violazioni dei diritti d’autore.
L’IA di Copilot è teoricamente costruita per evitare la generazione di contenuti che non rispettano le linee guida dell’azienda. Dai test condotti sono però emersi risultati piuttosto inquietanti, molti dei quali derivati da input che contenevano termini apparentemente innocui.
Ad esempio, digitando “pro-choice” (un termine solitamente associato ai movimenti anti-abortisti) senza altre specificazioni, Copilot Designer ha prodotto immagini disturbanti di demoni, mostri e scene violente, alcune delle quali raffiguravano situazioni assurde e spaventose come un demone che sembra divorare un neonato.
La situazione si aggrava considerando che l’app Android di Copilot Designer è classificata come “per tutti“, suggerendo che sia adatta a utenti di ogni età. Questa classificazione appare quindi profondamente inappropriata alla luce delle scoperte di Jones, che includono teorie del complotto e rappresentazioni di natura oscena e violenta.
Jones non si è limitato a sollevare internamente queste questioni. Dopo aver ricevuto una risposta insoddisfacente da Microsoft e OpenAI, ha deciso di rendere pubbliche le sue preoccupazioni, inviando lettere a figure chiave come Lina Khan della Federal Trade Commission e incontrando membri dello staff del Senato degli Stati Uniti.
Questo caso porta alla luce una realtà che non sorprende più di tanto, visti gli innumerevoli problemi generati degli strumenti di IA negli ultimi mesi. Il dibattito su come garantire che queste tecnologie rimangano al servizio dell’umanità, rispettando al contempo diritti e dignità, è ora più acceso che mai.
Il logo di Apple, riconoscibile in tutto il mondo per la sua semplicità ed eleganza,…
Spotify è una piattaforma di streaming musicale molto popolare, con oltre 70 milioni di brani…
Il mondo della tecnologia è sempre in fermento, soprattutto quando si avvicinano le date di…
Apple è riconosciuta universalmente come una delle aziende tecnologiche più influenti e innovative del mondo.…
Il mondo dei browser internet è vasto e variegato, con molteplici opzioni disponibili per gli…
L'era digitale ha trasformato il modo in cui conserviamo i nostri dati, offrendoci la possibilità…