image/svg+xml
Logo Tom's Hardware
  • Hardware
  • Videogiochi
  • Mobile
  • Elettronica
  • EV
  • Scienze
  • B2B
  • Quiz
  • Tom's Hardware Logo
  • Hardware
  • Videogiochi
  • Mobile
  • Elettronica
  • EV
  • Scienze
  • B2B
  • Quiz
  • Forum
  • Sconti & Coupon
Sconti & Coupon
Accedi a Xenforo
Immagine di Roborock Q7 M5, robot aspirapolvere per chi vuole spendere poco | Test & Recensione Roborock Q7 M5, robot aspirapolvere per chi vuole spendere p...
Immagine di Shelly Gen4 e Plus: piccoli dispositivi ma grandi alleati per una casa smart Shelly Gen4 e Plus: piccoli dispositivi ma grandi alleati pe...

Le prime leggi UE sulla robotica, la Commissione ha pubblicato la bozza

Il documento indica i punti chiave su cui costruire le regole etiche e sociali per lo sviluppo di Intelligenze Artificiali.

Advertisement

Quando acquisti tramite i link sul nostro sito, potremmo guadagnare una commissione di affiliazione. Scopri di più
Avatar di Valerio Porcu

a cura di Valerio Porcu

Senior Editor

Pubblicato il 19/12/2018 alle 16:20
Il gruppo di 52 esperti nominato
dalla Commissione Europea ha pubblicato la prima bozza di linee guida per la sicurezza dell'Intelligenza Artificiale. È il primo passo verso un documento che dovrà stabilire le regole da seguire nello sviluppo degli algoritmi in territorio europeo.

L'iniziativa nasce nell'ambito del progetto Digital Single Market, che abbraccia una moltitudine di tematiche, inclusi il copyright, il blocco geografico dei contenuti, la privacy e molto altro – e almeno su alcuni temi le critiche non sono mancate.

Limitandosi al tema dell'Intelligenza Artificiale i nodi riguardano da una parte i diritti del cittadino, la sicurezza delle operazioni (individuale e di massa) e i possibili abusi. Dall'altra la possibilità per le aziende di operare sfruttando al massimo le capacità offerte dalle nuove tecnologie. Le linee guida cercano dunque di fondare e guidare un dibattito che non è tecnologico, ma etico, sociologico e politico.

robot-6355.jpg

La bozza elenca dunque alcuni principi etici fondamentali su cui si dovrebbe costruire il dibattito, e cerca di stabilire poi quali siano i "requisiti per un'AI di cui ci si possa fidare". La bozza propone dieci punti fondamentali.

  1. Responsabilità: l'uso di questi strumenti deve sempre permettere di individuare responsabilità in caso di errori o abusi, e prevedere un sistema sanzionatorio. Se un algoritmo provoca un problema, per esempio non riconoscendo il diritto a un rimborso medico, o provocando un incidente stradale, deve esserci un sistema compensatorio.
  2. Controllo dei dati. Gli algoritmi di machine learning si nutrono di dati, e i dataset possono contenere elementi critici – famosi sono gli esempi di algoritmi che amplificano le discriminazioni, proprio in virtù dei dati usati. La bozza suggerisce l'adozione di sistemi che permettano il controllo e la pulitura dei dati prima che vengano usati. Similmente, si sottolinea l'importanza del controllo sui dati per misurare le prestazioni AI e garantire la piena anonimizzazione degli utenti. Si suggeriscono inoltre sistemi di registrazione dei dati per i sistemi ad apprendimento continuo, per prevenire possibili manipolazioni.
  3. Design democratico. "I sistemi dovrebbero essere progettati in un modo che permettano a tutti i cittadini di usare i prodotti e i servizi, senza discriminazioni di età, disabilità o stato sociale". In altre parole, si auspica lo sviluppo di sistemi largamente accessibili a tutti i cittadini europei, secondo i principi di equità che costituiscono l'ossatura stessa della UE.
  4. Controllo umano dell'autonomia AI. I sistemi AI sono progettati per funzionare in modo del tutto autonomo, dopo il periodo di training. Valgano come esempio le automobili a guida autonoma, che potranno muoversi per le strade senza un guidatore. La bozza suggerisce estesi periodi di test per questi sistemi, e che i sistemi di controllo e monitoraggio si facciano più rigidi al crescere del livello di autonomia. Sarà necessaria, almeno in alcuni casi, la supervisione umana. "Ciò è rilevante per molte applicazioni AI, in particolare per quelle AI che suggeriscono o prendono decisioni sugli individui o le comunità".
  5. Non Discriminazione. Negli ultimi anni sono stati molti gli esempi di discriminazione "implicita" nei sistemi AI, un problema legato sempre al dataset usato per l'addestramento (vedi punto 2). Il gruppo di esperti riconosce che le AI possono rendere i problemi di discriminazione ancora più gravi di quanto siano oggi, e che è possibile anche una manipolazione volontaria in questo senso – per quanto nella maggior parte dei casi si tratti di errori da correggere.
  6. Rispetto (e miglioramento) dell'autonomia umana. I sistemi AI dovrebbe essere progettati "anche per proteggere i cittadini nella loro diversità dagli abusi, governativi e privati, resi possibili dalle tecnologie AI". In altre parole, questi sistemi rendono possibili abusi molto gravi, e dovrebbero contenere in sé stessi le contromisure. È uno dei principi non rispettati dall'Art. 13 della normativa europea sul copyright, per esempio.

robot-reading-4659.jpg

"I sistemi con il compito di aiutare gli utenti, devono offrire un supporto esplicito alla promozione delle preferenze personali, e definire i limiti all'intervento del sistema, assicurando che il benessere dell'utente, definito dall'utente stesso, sia centrale per la funzionalità del sistema".

  1. Rispetto della privacy. I sistemi AI dovranno naturalmente rispettare il recente GDPR e garantire il rispetto della privacy in ogni fase del funzionamento. Vanno tutelati i dati forniti dall'utente all'inizio, ma anche quelli che genera nel corso del tempo (per esempio la cronologia di ricerca).

"I registri digitali sul comportamento umano possono svelare dati molto sensibili, non solo in termini di preferenze ma anche riguardo l'orientamento sessuale, l'età, il sesso, le preferenze religiose e politiche. La persona con il controllo di queste informazioni potrebbe usarle a proprio vantaggio".

  1. Robustezza. Un sistema di Intelligenza Artificiale affidabile deve essere resistente agli errori, sia in fase di sviluppo che di produzione. E deve essere in grado di gestire risultati errati. I risultati devono dunque essere sempre riproducibili in modo indipendente, una condizione che oggi non è possibile soddisfare con la maggior parte dei sistemi; che sono opachi (da qui il concetto di black-box).Devono essere precisi nel classificare le informazioni, nel fare previsioni e valutazioni.E devono naturalmente essere resistenti agli attacchi informatici.
  2. Sicurezza. I sistemi AI dovranno garantire l'incolumità degli esseri umani, il che è molto importante in contesti industriali e lavorativi in genere, delle risorse e dell'ambiente. E minimizzare eventuali effetti collaterali negativi, integrando dunque sistemi per la gestione degli incidenti.
  3. Trasparenza. Oggigiorno i sistemi AI sono poco o per nulla trasparenti. Una volta terminato l'addestramento, è spesso impossibile sapere che cosa ha portato a un certo risultato. I 52 esperti, in armonia con il GDPR, suggeriscono di cambiare questa realtà con sistemi AI che possano spiegare sé stessi e il proprio agire. Non è semplice, ma si può fare.

Il lungo documento integra diversi passaggi sui ragionamenti che hanno portato a questi dieci punti, insieme a suggerimenti per la loro realizzazione. Ancora più importante, i commenti sono aperti a tutti fino al prossimo 18 gennaio. Il gruppo di esperti presenterà la versione finale del documento a marzo 2019, e sarà poi il turno della Commissione analizzarlo e proporre come proseguire i lavori.

Leggi altri articoli

👋 Partecipa alla discussione! Scopri le ultime novità che abbiamo riservato per te!

0 Commenti

⚠️ Stai commentando come Ospite . Vuoi accedere?


Questa funzionalità è attualmente in beta, se trovi qualche errore segnalacelo.

Segui questa discussione
Advertisement

Non perdere gli ultimi aggiornamenti

Newsletter Telegram

I più letti di oggi


  • #1
    Uso della VRAM ridotto all'osso con la nuova versione del DLSS
  • #2
    Blocco diesel Euro 5 Nord Italia: tutto quello che c'è da sapere
  • #3
    Uno YouTuber ha acquistato uno dei marchi più famosi del retrogaming
  • #4
    Questa è la tech che salverà le schede video da 8GB
  • #5
    Amazon Prime Day, quand'è, quanto dura e come trovare le offerte migliori
  • #6
    Helldivers 2 trasforma le recensioni negative in DLC
Articolo 1 di 5
Shelly Gen4 e Plus: piccoli dispositivi ma grandi alleati per una casa smart
Sono arrivati i nuovi Shelly Gen4: soluzioni smart con controllo dei consumi per una casa intelligente come mai prima d’ora.
Immagine di Shelly Gen4 e Plus: piccoli dispositivi ma grandi alleati per una casa smart
Leggi questo articolo
Articolo 2 di 5
Roborock Q7 M5, robot aspirapolvere per chi vuole spendere poco | Test & Recensione
Un robot con aspirazione potente e navigazione LiDAR che offre un buon compromesso tra funzionalità avanzate e prezzo accessibile.
Immagine di Roborock Q7 M5, robot aspirapolvere per chi vuole spendere poco | Test & Recensione
Leggi questo articolo
Articolo 3 di 5
Crea un’oasi zen con LEGO Botanicals: PREZZI SHOCK su Amazon!
Aggiungi l’eleganza senza tempo dell’albicocco giapponese o delle rose al tuo spazio a meno di 50€, ma affrettati: promozione limitata!
Immagine di Crea un’oasi zen con LEGO Botanicals: PREZZI SHOCK su Amazon!
Leggi questo articolo
Articolo 4 di 5
Da oggi bollette più facili da leggere: come funziona lo “scontrino dell’energia"
Dal 1° luglio arriva il nuovo formato delle bollette energetiche: più chiare, trasparenti e con frontespizio standardizzato per tutti i fornitori.
Immagine di Da oggi bollette più facili da leggere: come funziona lo “scontrino dell’energia"
1
Leggi questo articolo
Articolo 5 di 5
Il phon giusto può cambiare la giornata, anche quando fuori ci sono 40°
Durante le calde giornate estive, può capitare di voler asciugare i capelli all’aria aperta, ma con questo asciugacapelli non vorrete più farlo.
Immagine di Il phon giusto può cambiare la giornata, anche quando fuori ci sono 40°
Leggi questo articolo
Advertisement
Advertisement

Advertisement

Footer
Tom's Hardware Logo

 
Contatti
  • Contattaci
  • Feed RSS
Legale
  • Chi siamo
  • Privacy
  • Cookie
  • Affiliazione Commerciale
Altri link
  • Forum
Il Network 3Labs Network Logo
  • Tom's Hardware
  • SpazioGames
  • CulturaPop
  • Data4Biz
  • TechRadar
  • SosHomeGarden
  • Aibay

Tom's Hardware - Testata giornalistica associata all'USPI Unione Stampa Periodica Italiana, registrata presso il Tribunale di Milano, nr. 285 del 9/9/2013 - Direttore: Andrea Ferrario

3LABS S.R.L. • Via Pietro Paleocapa 1 - Milano (MI) 20121
CF/P.IVA: 04146420965 - REA: MI - 1729249 - Capitale Sociale: 10.000 euro

© 2025 3Labs Srl. Tutti i diritti riservati.