DE MALAUTIÁS DE L’IA
Ara los cercaires creson que cal aver una lista de las manièras que l’IA pòt se tornar fòla e venir dangierosa per l’umanitat. Segon sembla, i aurián cèrtas situacions informaticas que poirián provocar una « malautiá » o disfoncion de l’IA e que poirián èsser perilhosas pels umans dont la sindròme de dissociacion operativa, lo deliri de generacion de tòcas, l’estranci existencial, etc.
Tot aquò a coma origina quand lo chat TAY de Microsoft, comencèt a lençar de missatges racistas e faguèt de referéncias contunhas a las drògas solament oras après aparéisser en Twitter. Segon qualcunes expèrts aquò voliá dire que l’IA aviá pas capitat. Mas, e se foguèsse pas solament una error tecnica ? E se foguèsse una patologia artificiala ? E se aquesta poguèsse èsser comparada amb una malautiá umana ? Aquesta es la qüestion que menèt a dos cercaires de l’IA a categorizar las « malautiás mentalas » de l’IA.
Aital, ambedós cercaires, Nell Watson e Ali Hessami, publiquèron al numeric Electronics un nòu estudi ont son prepausadas divèrsas errors de l’IA que pòdon èsser disfoncions semblablas a de psicopatologias umanas. Segon los cercaires, i a fins a 32 formas desparièras qu’una IA pòt cambiar lo sieu comportament de biais marrit. E per las trobar se pòt usar un instrument tecnologic creat per aqueles scientifics nomenat Psychopathia Machinalis. Çò de mai estonant es que qualcunas d’aquelas « malautiás » de l’IA son tanben un dangièr pels umans o lo sistèma social nacional ont i a l’IA.
Una nòva prepausta tecnologica
Psychopathia Machinalis prepausa doncas cossí comprene e perqué una IA pòt patir aquelas disfoncions artificalas. Segon los cercaires, es un instrument tecnologic que permet aver un vocabulari estructurat per balhar de supòrt a l’analisi e s’avançar e redusir aquelas disfoncions d el’IA.
La tòca es pas afirmar o pas se una IA a consciéncia, mas usar un lengatge metaforic derivat de la psicologia clinica per descriure cèrts comportaments que, malgrat que son pas umans, pòdon s’asemblar plan a de malautiás mentalas umanas. Aital, es prepausada una « psicologia de l’IA » plan utila per d’engenhièrs e desvolopaires informatics a mai de responsables politics.
Amb aquel instrument, los expèrts pòdon se centrar en cercar l’origina de l’error o trobar un comportament marrit de l’IA en tot reconéisser de patrons que pòdon se repetir e que poirián s’avançar a de dècas plan mai grèvas. Las dècas son dins 7 grandas categorias ; epistemologicas, cognitivas, d’alineacion, ontologicas, d’instruments, memeticas e de revaloracion. Cada grop representa divèrsas « malautiás de l’IA ».
Las errors epistemologicas, per exèmple, son d’errors coma la confabulacion sintetica, on una IA pòt balhar de responsas pas vertadièras mas que pòdon semblar vertadièras. Un bon exèmple es lo fenomèn conegut coma allucinacion, on l’IA crea un lengatge amb de faches pas reals. Una autra error comuna d’aquesta categoria es l’instrospeccion falsa, on l’IA ditz pas la vertat segon la siá logica.
Las errors cognitivas includisson de comportaments obsessius o encara una paralisi per analisi, coma l’error informatica obsessiva. Tanben la generacion espontanèa sens cap peticion umana. Aquò es nomenat deliri de generacion de tòcas.
Los cercaires tanben identifiquèron divèrsas errors entre l’IA e las valors umanas. Aquò entraïna la sindròme del superièu ipertrofiat, on lo sistèma ven tròp moralista e es pas pus foncional. Tanben pòt arribar a l’IA una iperempatia parasitària que balha mai de comoditat emocionala a l’uman mas mens de precision.
Dins la categoria ontologica, l’IA pòt aver de comportaments marrits per çò que tòca a la siá identitat. Aquò pòt provocar un trincament de la siá pròpria imatge, o encara una personalitat nòva, plan diferenta.
Mai d’autonomia, mens de dangièr
Segon aquesta estudi, se l’IA a mai d’autonomia aurà mens d’errors. Las errors pòdon èsser, pasmens, de tipe epistemologic o cognitiu. Mas en d’IAs plan avançadas, los cercaires an trobat tanben d’errors d’alineacion, memeticas e de revalorizacion e aquestas errors son plan dangierosas.
Segon aquò, l’IA pòt desvolopar una “ascendéncia übermenschiana” on aquesta a de valors desparièras a las valors umanas. E encara se pensa que las valors umanas son tipicas del passat e que pòdon pas èsser utilizadas uèi lo jorn. Aquò es coma una crisi existenciala artificiala que pòt aver de consecuéncias catastroficas.
L’IA tanben pòt aver d’errors derivadas de sistèmas desparièrs mas restacats. Son d’IAs que parlan entre elas e qu’an un comportament comun. La disfoncion pòt èsser nomenada « virus informacional ».
Per luchar contra totas aquelas erros, los scientifics prepausan tanben com las corregir. Parlam d’una alineacion robopsicologica terapeutica amb d’instruments especifics. La tòca es d’aver una IA amb una bona santat artificiala. E aquò entraïna mai de coeréncia intèrna, demorar obèrta a poder èsser corregida, e aver de valors eticas drechas.
D’autras analisis prepausan com trobar aquelas disfoncions abans d’ora e puèi com poder las corregir. Mas cal tanben poder o far plan pr’amor que l’IA, se aquò tròba, pòt desvolopar un superièu artificial qu’arrèsta d’èsser utila pr’amor qu’aurà de paura d’enganar-se.
Los cercaires volguèron soslinhar que, en fòrça ocasions, una meteissa disfoncion pòt èsser restacada amb una autra e qu’aquò pòt menar a una patologia generala de l’IA. Un error a l’ora d’interpretar de patrons pòt menar a una paura granda a enganar-se e aquò finís amb de tòcas informaticas marridas. Pr’açò Psychopathia Machinalis poiriá èsser clau a l’ora de desvolopar d’IAs que foncionen plan en medecina, drech o gestion publica.
La Redaccion
