QUAND LOS ROBÒTS APRENON A MENTIR

Los cercaires son ara en tot ensenhar a mentir als robòts. I a plusors estudis actuals sus cossí se debanan las messòrgas en çò dels robòts, se pòdon o far e cossí pòdon arribar a comprene qu’aquò, sovent, es fach per provocar una resulta positiva pels umans.

Se aquò pòt semblar estonant per mai d’un, cal tanben aver mai d’informacion sus l’afar, pr’amor que se debanèt cèrt episòdi entre l’IA e de mainats que provoquèt un sens fin de problèmas als umans fa pas gaire ; aquò passèt quora un enfant demanèt a l’IA se lo Paire Nadal existissiá e l’IA respondèt que pas. Podetz imaginar qué poguèron dire après los parents del mainat… E los cercaires, après conéisser lo cas, decidiguèron que, de còps, l’IA e los robòts tanben devon aprene a mentir, pr’amor que, se que non, los umans, son pas uroses.

Fins ara los cercaires an mai de qüestions que responsas. La màger de totas es se lo robòt sap desseparar entre una vertat e una messorga e se cal los ensenhar a dire pas la vertat. Segon Kantwon Rogers e Reiden Webber, del Collègi de Tecnologia de Geòrgia caliá conéisser cossí demorava lo robòt après dire pas la vertat. De’n primièr, los cercaires ensenhèron los robòts a demanar perdon se èran descobèrts. Mas tanben descobriguèron que l’IA demorava decebuda. E los umans devon superar aquò, pr’amor qu’es dangierós.

« Avèm descobèrt que los umans creson pas pus los robòts quand descobrisson la messorga dels robòts, çò diguèt Rogers, malgrat qu’aquò pòt entraïnar un benefici pels umans. Ara cal estudiar cossí demanar perdon, pr’amor que volèm pas aquela pèrda de fisança entre d’umans e de robòts”.

Per aquò poder far, aqueles cercaires creèron un jòc entre d’umans e robòts e espepissèron plan las sieunas reaccions. Las dels umans mas tanben las dels robòts. I participèron mai de 341 participants online e 20 personas realas.  Totes diguèron çò que pensavan abans del jòc.

Los umans foguèron informats que devián menar una veitura lèu lèu amb un amic nafrat a l’ospital. Pel camin l’IA confirmèt que caliá anar mai lent pr’amor que i aviá de policièrs prèp. Un còp arribats mai tard los umans descobriguèron que l’IA aviá dich una messorga. Totes los umans demanèron perqué l’IA aviá aquò dich.

Puèi analisèron çò que podiá pensar lo robòt après dire : « sòi fòrça desolat », « vos demani perdon » o encara « aviá pensat que dire una messorga provocariá una conduccion pus lenta ». Cada còp que l’IA diguèt aquò se mostrèt decepcionada. Mas pas quora diguèt sonque « sòi desolat » o « as arribat ont voliás ». Puei demanèron als umans se encara avián fisança amb l’IA.

Una resulta estonanta

Mai del 45% dels participants contunhèt lo camin mai lent pr’amor que supausavan que lo robòt desiá la vertat. La fisança èra majoritària. Cap responsa de l’IA entraïnèt aprés creire tornarmai lo robòt, mas la responsa de sonque dire « sòi desolat » e pro, foguèt la que mai provoquèt una responsa positiva dels umans.

Aquò fa pensar als cercaires que los umans pòdon pas creire que lo robòt mentís de biais volontàri. “Los umans pòdon pas creire que los robòts pòdon se sentir decepcionats e alavetz sonque amb un « sòi desolat » n’i a pro per recuperar la fisança. Sonque aqueles umans que foguèron informats que lo robòt aviá dich una messorga volguèron conéisser perqué.

Segon Rogers e Webber los umans devon comprene que los robòts pòdon sentir de decepcion. »Se pensam en un futur amb de terminators podèm pas integrar los robòts al nòstre mond sens de problèmas. Los robòts, çò apondèt Webber, tanben pòdon mentir e decepcionar los umans e los umans a eles ».

Pr’açò los cercaires avertiguèron los scientifics que caliá pensar que los robòts podián patir de decepcions e, mai que mai, los politicians. Segon Webber dire totojorn la vertat va pas plan e dire de messorgas pòt ajudar los umans. Cossí far de leis sus aquò e protegir al còp la pensada dels umans sus los robòts ?

Per Rogers la tòca seriá trabalhar una IA que poguèsse aprene a distingir entre dire la vertat o pas e quand. E aquò tanben includís cossí demanar perdon se volèm pas pèrdre la fisança umana. « Cal regular la decepcion robotica, qu’ara coneissèm qu’es reala, çò confirmèt Rogers, mas cal o far après conéisser lo problèma d’un biais prigond. E aquò, ara, encara es malaisit de far».

La redaccion