Intelligenza Artificiale e novità normative

Intelligenza Artificiale e novità normative

Negli ultimi anni l’Intelligenza Artificiale si è imposta al centro del dibattito globale: la sua rapidissima evoluzione, col conseguente aumento dei potenziali campi di utilizzo, ha reso questa tecnologia – in particolare nella più recente accezione “generativa” – protagonista di accese discussioni. La lettera in cui i CEO delle principali aziende sul mercato proponevano una “moratoria” per valutare le ricadute etiche dell’AI o le dimissioni di Geoffrey Hinton, considerato uno dei padri nobili dell’Intelligenza Artificiale, sono solo i passaggi più noti di una crescente tendenza che vede anche professionisti ed esperti assumere posizioni apertamente critiche rispetto ai rischi di un […]

Infrastrutture Critiche e Sicurezza Nazionale: la Roadmap CISA per l’Intelligenza Artificiale 2023-2024

Infrastrutture Critiche e Sicurezza Nazionale: la Roadmap CISA per l’Intelligenza Artificiale 2023-2024

La “Roadmap for Artificial Intelligence 2023-2024” della Cybersecurity and Infrastructure Security Agency (CISA), un’agenzia del Dipartimento della Sicurezza Interna degli Stati Uniti (DHS), rappresenta un piano strategico cruciale che risponde direttamente all’Ordine Esecutivo 14110 della Casa Bianca. Questo documento è fondamentale per garantire lo sviluppo e l’uso sicuri e affidabili dell’intelligenza artificiale (AI), allineandosi strettamente con le direttive nazionali degli Stati Uniti. L’obiettivo centrale della roadmap è quello di massimizzare i benefici dell’AI per potenziare la cybersecurity e proteggere le infrastrutture critiche, assicurando al contempo la sicurezza dei sistemi AI da eventuali minacce informatiche e contrastando l’uso inappropriato dell’AI che […]

OpenText Cybersecurity Aviator: la potenza dell’AI per una difesa più rapida ed efficace

OpenText Cybersecurity Aviator: la potenza dell’AI per una difesa più rapida ed efficace

L’edizione annuale di OpenText World 2023 ha messo in risalto il valore cruciale dell’Intelligenza Artificiale (AI) nella roadmap di OpenText, con il lancio della nuovissima suite di soluzioni OpenText Aviator che mette a disposizione delle imprese le più sofisticate tecnologie di intelligenza artificiale e machine learning, per la creazione di sistemi di Information Management sicuri on-premise e nel cloud. In particolare, Cybersecurity Aviator utilizza l’intelligenza artificiale per affrontare le emergenti sfide nel campo della sicurezza informatica, incluse quelle derivate proprio dall’evoluzione delle tecnologie di AI. “La rivoluzione dell’intelligenza artificiale cambierà ogni cosa – osserva Pierpaolo Alì, Director Southern Europe di […]

Intelligenza Artificiale nella Sanità, standard e buone pratiche per mettere in sicurezza i dati “ultrasensibili”

Intelligenza Artificiale nella Sanità, standard e buone pratiche per mettere in sicurezza i dati “ultrasensibili”

L’Intelligenza Artificiale non riguarda solo i settori ad alto tasso tecnologico: l’impiego dei relativi strumenti sta mostrando, infatti, di esercitare effetti dirompenti nei contesti più disparati. Fra questi anche la sanità, dove il massiccio trattamento di informazioni relative alla salute delle persone – cosiddetti dati “ultrasensibili” – impone particolari attenzioni e cautele. Per questo il Garante della Privacy ha realizzato un Decalogo per la realizzazione di servizi sanitari nazionali attraverso sistemi di Intelligenza Artificiale, pubblicato lo scorso 10 ottobre al fine di uniformare standard e buone pratiche all’interno del SSN. I principi del trattamento secondo il decalogo del Garante Partendo […]

Le nuove sfide di cyber security per l’Intelligenza Artificiale: la mappatura dell’ecosistema e la tassonomia delle minacce

Le nuove sfide di cyber security per l’Intelligenza Artificiale: la mappatura dell’ecosistema e la tassonomia delle minacce

Introduzione L’Intelligenza Artificiale (IA) ha guadagnato terreno negli ultimi anni facilitando il processo decisionale intelligente e automatizzato in tutta l’estensione degli scenari di implementazione e delle aree applicative. Stiamo assistendo a una convergenza di diverse tecnologie (ad es. Internet of things, robotica, tecnologie dei sensori, ecc.) e una crescente quantità e varietà di dati, nonché…

Prompt Hacking: Vulnerabilità dei Language Model

Prompt Hacking: Vulnerabilità dei Language Model

Introduzione Gli attacchi ai LM (Language Model) come la prompt injection e la prompt leaking possono essere paragonati alle SQL injection nel contesto della sicurezza informatica. Mentre le SQL injection sfruttano le vulnerabilità dei sistemi di gestione dei database per inserire codice dannoso all’interno delle query SQL, gli attacchi ai LM prendono di mira i modelli linguistici e cercano di manipolare l’output generato. In entrambi i casi, gli aggressori cercano di influenzare il comportamento del sistema iniettando input dannosi o modificando il funzionamento. Prompt Injection: Manipolazione dell’Output dei LLM La prompt injection è una tecnica che consente agli hacker di […]

Intelligenza Artificiale nella Sanità, standard e buone pratiche per mettere in sicurezza i dati “ultrasensibili”

Intelligenza Artificiale nella Sanità, standard e buone pratiche per mettere in sicurezza i dati “ultrasensibili”

L’Intelligenza Artificiale non riguarda solo i settori ad alto tasso tecnologico: l’impiego dei relativi strumenti sta mostrando, infatti, di esercitare effetti dirompenti nei contesti più disparati. Fra questi anche la sanità, dove il massiccio trattamento di informazioni relative alla salute delle persone – cosiddetti dati “ultrasensibili” – impone particolari attenzioni e cautele. Per questo il Garante della Privacy ha realizzato un Decalogo per la realizzazione di servizi sanitari nazionali attraverso sistemi di Intelligenza Artificiale, pubblicato lo scorso 10 ottobre al fine di uniformare standard e buone pratiche all’interno del SSN. I principi del trattamento secondo il decalogo del Garante Partendo […]

Perché il deep fake preoccupa l’intelligence? Disinformazione e attacchi psicologici con l’uso illecito dell’IA

Perché il deep fake preoccupa l’intelligence? Disinformazione e attacchi psicologici con l’uso illecito dell’IA

“We’re entering an era in which our enemies can make anyone say anything at any point in time”, ovvero “stiamo entrando in un’era nella quale i nostri nemici possono far dire qualsiasi cosa, a chiunque, in qualsiasi momento”, è il sottotitolo di un video presente su Youtube: In tale video l’ex presidente degli Stati Uniti Barack Obama mette in guardia su possibili manipolazioni dell’informazione: l’unico problema è che Obama non hai mai detto quelle parole, né ha mai fatto quello specifico video… ma per potervi spiegare il perché i deep fake preoccupino tanto le intelligence di mezzo mondo, dobbiamo fare […]

E’ possibile un controllo dell’Intelligenza Artificiale?

E’ possibile un controllo dell’Intelligenza Artificiale?

E’ ormai assodato che l’intelligenza Artificiale deve essere vista come un sistema, e come tale possiede: input, output, attività ed un osservatore. Ma a differenza di altri sistemi, l’osservatore è anche parte del sistema, non è esterno e relegato all’ambiente ma interagisce con il sistema. Possiamo definire un sistema come: Sistema è ciò che può essere distinto, sulla base di qualche criterio specifico agli scopi dell’osservatore, da ciò che è considerato esterno al sistema stesso, il suo ambiente. Riportiamo alcune caratteristiche generali dei sistemi: Si assume che la realtà esista “là fuori” e che abbia caratteristiche che non dipendono dal […]

Declinazioni applicative del progetto europeo sull’Intelligenza Artificiale secondo il Libro Bianco della Commissione UE

Declinazioni applicative del progetto europeo sull’Intelligenza Artificiale secondo il Libro Bianco della Commissione UE

Il 19 maggio scade il termine della pubblica consultazione lanciata dalla Commissione UE nei confronti di Stati Membri (SM), Istituzioni Europee e altri Stakeholder (i.e. Industria, Partner Sociali, Organizzazioni della società civile, Ricercatori, Settore pubblico e qualsivoglia altra Parte interessata) finalizzata a farle pervenire proposte e commenti al Libro Bianco 19.2.2020 dedicato allo sviluppo e utilizzo dell’Intelligenza Artificiale (i.e. Libro Bianco UE Sull’Intelligenza Artificiale – Un Approccio Europeo verso l’eccellenza e la fiducia – DOC COM (2020) 65 final[1]) da applicarsi a tutti i principali settori merceologici rilevanti per l’economia europea, in continuità con la Strategia Europea per l’Intelligenza Artificiale […]

La cyber security è anche una questione “domestica”

La cyber security è anche una questione “domestica”

Introduzione Internet of things (IoT) & smart device sono sempre più numerosi nella nostra quotidianità. Le nostre abitazioni sono sempre più gestite da home assistant, elettrodomestici intelligenti, smart tv, smartphone e dispositivi vari, tutti collegati al wi-fi domestico e strumentazioni di domotica che si basano sull’Intelligenza artificiale e machine learning. Vere e proprie Smart home che pullulano di dispositivi connessi che, se non adeguatamente protetti, possono essere oggetto di attacchi hacker e violazione della privacy. Secondo quanto si evince della ricerca dell’Osservatorio Internet of Things della School of Management del Politecnico di Milano, presentata a febbraio scorso durante il convegno […]

L’AI come arma fondamentale nella guerra ai ransomware

L’AI come arma fondamentale nella guerra ai ransomware

Che i ransomware siano oggi la vera minaccia non è più una novità, eppure il verificarsi di attacchi informatici con conseguente richiesta di riscatto a danno di aziende ed enti pubblici continua a fare notizia. Anche se non sempre si conosce se e quale sia stata la cifra estorta, nel 2020 sono finite nel mirino […]