rappresentare un cambiamento profondo nella storia della vita sulla Terra e dovrebbe essere pianificata e gestita con cura e risorse adeguate<\/em>.<\/p>\n\n\n\n Sfortunatamente, questo livello di pianificazione e gestione non sta avvenendo, anche se negli ultimi mesi i laboratori di IA si sono impegnati in una corsa fuori controllo per sviluppare e impiegare menti digitali sempre pi\u00f9 potenti che nessuno – nemmeno i loro creatori – \u00e8 in grado di comprendere, prevedere o controllare in modo affidabile.<\/p>\n\n\n\n
I sistemi di intelligenza artificiale contemporanei stanno diventando competitivi con gli esseri umani in compiti generali [3] e dobbiamo chiederci se sia il caso di lasciare che le macchine inondino i nostri canali di informazione: Dobbiamo lasciare che le macchine inondino i nostri canali di informazione con propaganda e falsit\u00e0? Dovremmo automatizzare tutti i lavori, compresi quelli pi\u00f9 soddisfacenti? Dovremmo sviluppare menti non umane che alla fine potrebbero superarci di numero, essere pi\u00f9 intelligenti e sostituirci? Dobbiamo rischiare di perdere il controllo della nostra civilt\u00e0? Queste decisioni non devono essere delegate a leader tecnologici non eletti.<\/p>\n\n\n\n
I potenti sistemi di intelligenza artificiale dovrebbero essere sviluppati solo quando saremo sicuri che i loro effetti saranno positivi e i loro rischi gestibili. Questa fiducia deve essere ben giustificata e aumentare con l\u2019entit\u00e0 degli effetti potenziali di un sistema. La recente dichiarazione di OpenAI sull\u2019intelligenza artificiale generale afferma che \u201ca un certo punto, potrebbe essere importante ottenere una revisione indipendente prima di iniziare ad addestrare i sistemi futuri, e per gli sforzi pi\u00f9 avanzati concordare di limitare il tasso di crescita dei calcoli utilizzati per creare nuovi modelli\u201d. Siamo d\u2019accordo. Quel punto \u00e8 ora, lo abbiamo gi\u00e0 raggiunto.<\/p>\n\n\n\n
Pertanto, chiediamo a tutti i laboratori di IA di sospendere immediatamente per almeno 6 mesi l\u2019addestramento di sistemi di IA pi\u00f9 potenti del GPT-4. Questa pausa dovrebbe essere pubblica e verificabile. Questa pausa deve essere pubblica e verificabile e deve includere tutti gli attori chiave. Se tale pausa non pu\u00f2 essere attuata rapidamente, i governi dovrebbero intervenire e istituire una moratoria.<\/p>\n\n\n\n
I laboratori di IA e gli esperti indipendenti dovrebbero utilizzare questa pausa per sviluppare e implementare congiuntamente una serie di protocolli di sicurezza condivisi per la progettazione e lo sviluppo di IA avanzate, rigorosamente controllati e supervisionati da esperti esterni indipendenti. Questi protocolli dovrebbero garantire che i sistemi che vi aderiscono siano sicuri al di l\u00e0 di ogni ragionevole dubbio.[4]<\/p>\n\n\n\n
Ci\u00f2 non significa una pausa nello sviluppo dell\u2019IA in generale, ma solo un passo indietro rispetto alla pericolosa corsa verso modelli black-box sempre pi\u00f9 grandi e imprevedibili con capacit\u00e0 emergenti. La ricerca e lo sviluppo dell\u2019IA dovrebbero concentrarsi sul rendere i potenti sistemi all\u2019avanguardia di oggi pi\u00f9 accurati, sicuri, interpretabili, trasparenti, robusti, allineati, affidabili e leali.<\/p>\n\n\n\n
Parallelamente, gli sviluppatori di IA devono lavorare con i politici per accelerare drasticamente lo sviluppo di solidi sistemi di governance dell\u2019IA. Questi dovrebbero come minimo includere: <\/p>\n\n\n\n
autorit\u00e0 di regolamentazione nuove e capaci dedicate all\u2019IA; <\/em><\/strong><\/p>\n\n\n\nsorveglianza e monitoraggio di sistemi di IA altamente capaci e di grandi bacini di capacit\u00e0 computazionale; <\/em><\/strong><\/p>\n\n\n\nsistemi di provenienza e watermarking per aiutare a distinguere i modelli reali da quelli sintetici e per tracciare le fughe di notizie; <\/em><\/strong><\/p>\n\n\n\nun robusto ecosistema di auditing e certificazione; <\/em><\/strong><\/p>\n\n\n\nresponsabilit\u00e0 per i danni causati dall\u2019IA; <\/em><\/strong><\/p>\n\n\n\nsolidi finanziamenti pubblici per la ricerca tecnica sulla sicurezza dell\u2019IA; <\/em><\/strong><\/p>\n\n\n\nistituzioni ben finanziate per affrontare i drammatici sconvolgimenti economici e politici (soprattutto per la democrazia) che l\u2019IA causer\u00e0.<\/em><\/strong><\/p>\n\n\n\nL\u2019umanit\u00e0 pu\u00f2 godere di un futuro fiorente con l\u2019IA. Essendo riusciti a creare potenti sistemi di IA, possiamo ora goderci una \u201cestate dell\u2019IA\u201d in cui raccogliere i frutti, progettare questi sistemi per il chiaro beneficio di tutti e dare alla societ\u00e0 la possibilit\u00e0 di adattarsi. La societ\u00e0 ha messo in pausa altre tecnologie con effetti potenzialmente catastrofici per la societ\u00e0 [5] e possiamo farlo anche in questo caso. Godiamoci una lunga estate dell\u2019IA, non precipitiamoci impreparati in un autunno.<\/p>\n\n\n\n
Traduzione realizzata con l\u2019ausilio di DeepL<\/p>\n\n\n\n
Note e referenze<\/p>\n\n\n\n
[1] Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021, March). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?🦜. In Proceedings of the 2021 ACM conference on fairness, accountability, and transparency (pp. 610-623).Bostrom, N. (2016). Superintelligence. Oxford University Press.Bucknall, B. S., & Dori-Hacohen, S. (2022, July). Current and near-term AI as a potential existential risk factor. In Proceedings of the 2022 AAAI\/ACM Conference on AI, Ethics, and Society (pp. 119-129).Carlsmith, J. (2022). Is Power-Seeking AI an Existential Risk?. arXiv preprint arXiv:2206.13353.Christian, B. (2020). The Alignment Problem: Machine Learning and human values. Norton & Company.Cohen, M. et al. (2022). Advanced Artificial Agents Intervene in the Provision of Reward. AI Magazine, 43(3) (pp. 282-293).Eloundou, T., et al. (2023). GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models.Hendrycks, D., & Mazeika, M. (2022). X-risk Analysis for AI Research. arXiv preprint arXiv:2206.05862.Ngo, R. (2022). The alignment problem from a deep learning perspective. arXiv preprint arXiv:2209.00626.Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking.Tegmark, M. (2017). Life 3.0: Being Human in the Age of Artificial Intelligence. Knopf.Weidinger, L. et al (2021). Ethical and social risks of harm from language models. arXiv preprint arXiv:2112.04359.<\/p>\n\n\n\n
[2] Ordonez, V. et al. (2023, March 16). OpenAI CEO Sam Altman says AI will reshape society, acknowledges risks: \u2019A little bit scared of this\u2019. ABC News.Perrigo, B. (2023, January 12). DeepMind CEO Demis Hassabis Urges Caution on AI. Time.<\/p>\n\n\n\n
[3] Bubeck, S. et al. (2023). Sparks of Artificial General Intelligence: Early experiments with GPT-4. arXiv:2303.12712.OpenAI (2023). GPT-4 Technical Report. arXiv:2303.08774.<\/p>\n\n\n\n
[4] Ample legal precedent exists \u2013 for example, the widely adopted OECD AI Principles require that AI systems \u201cfunction appropriately and do not pose unreasonable safety risk\u201d.<\/p>\n\n\n\n
[5] Examples include human cloning, human germline modification, gain-of-function research, and eugenics.<\/p>\n\n\n\n
<\/p>\n\n\n\n
Fonte Il Sole 24 ore:<\/p>\n\n\n\n
https:\/\/www.ilsole24ore.com\/art\/sospendere-grandi-esperimenti-intelligenza-artificiale-lettera-aperta-AEFqiMBD?refresh_ce=1<\/a><\/p>\n\n\n\nVersione originale:<\/p>\n\n\n\n