Stephen Hawking, Elon Musk støtter listen over principper for at forhindre kunstig intelligens i at ødelægge os alle

Kunstig intelligens er et fascinerende, hurtigt udviklende felt med et enormt potentiale – både godt og dårligt. På den ene side er niveauet af effektivitet og automatisering, som en AI-fyldt verden kan nå, utroligt; på den anden side lyder robotter, der ødelægger mennesker og overtager vores civilisation, ikke som en sjov måde at tilbringe en weekend på.

En gruppe af mange videnskabsmænd og teknikere har godkendt en liste over principper, der har til formål at styre AI-udvikling i retning af produktivitet i modsætning til ødelæggelse. Blandt dem, der støtter den bedste praksis, er videnskabslegenden Stephen Hawking og teknologiikonet Elon Musk.



Asilomar AI-principperne blev skabt af et team af robotikere, økonomer og filosoffer samlet af Future of Life.



De 23 principper spænder fra forskningsstrategier til datarettigheder til fremtidige spørgsmål, herunder potentiel superintelligens, siger Future of Life. Denne samling af principper …. fremhæver, hvordan den nuværende 'standard'-adfærd omkring mange relevante emner kunne krænke principper, som de fleste deltagere var enige om, er vigtige at overholde.

Her er nogle af principperne:



1. Forskningsmål: Målet for A.I. forskning bør være at skabe ikke urettet intelligens, men gavnlig intelligens.

5. Race Undgåelse: Hold, der udvikler A.I. systemer bør aktivt samarbejde for at undgå at skære hjørner af sikkerhedsstandarderne.

9. Ansvar: Konstruktører og bygherrer af avanceret A.I. systemer er interessenter i de moralske implikationer af deres brug, misbrug og handlinger, med et ansvar og mulighed for at forme disse implikationer.



12. Personligt privatliv: Folk bør have ret til at få adgang til, administrere og kontrollere de data, de genererer, givet A.I. systemets magt til at analysere og bruge disse data.

16. Menneskelig kontrol: Mennesker bør vælge, hvordan og om de vil uddelegere beslutninger til A.I. systemer for at nå menneskevalgte mål.

23. Fælles bedste: Superintelligens bør kun udvikles i tjeneste for udbredt delte etiske idealer og til gavn for hele menneskeheden snarere end én stat eller organisation.



Elon Musk beskriver sig selv som 'Voice of Reason' mellem Silicon Valley og Det Hvide Hus

Kategori: Nyheder