Jo mere berøring vi får med teknologi, der taler til os som mennesker og simulerer menneskelig adfærd, desto mere tror vi, at teknologien er levende og har både bevidsthed og personlighed. Det fortæller filosof og tech-debattør Thomas Telving, som i en ny bog advarer om risikoen for manipulation og desuden forudser, at vi vil ende med at give robotter juridiske rettigheder.
Når teknologi i form af robotter begynder at ligne mennesker eller dyr, vækker det følelser i os, og så er første skridt taget til at manipulere med mennesket.
”Forskningen viser, at vi har det med at tillægge robotter menneskelige egenskaber, de ikke har, og at vi udvikler empati med dem. Det er nogle iboende psykologisk træk ved os, og de gør, at vi intuitivt tillægger teknologien et indre liv. Også selvom vi med vores fornuft godt kan regne ud, at robotter i dag næppe evner at føle glæde eller smerte.”
Det fortæller forfatter og filosof Thomas Telving, som har udgivet en ny filosofibog om AI og intelligente robotter. Bogen handler om, hvordan mennesker reagerer, når vi møder menneskelignende teknologi. Og den behandler nogle af de vigtigste etiske og juridiske spørgsmål, vi skal tage stilling til, før teknologien overhaler os.
Teknologien kan for eksempel være samtalerobotter, som dem, der vinder indpas i plejesektoren og digital humans, som er på vej til at blive en stor ting på nettet. På lidt længere sigt vil det handle om egentlige androids – altså fysiske robotter, der er udformet som mennesker. Første forbrugerversion bliver måske Optimus, som Elon Musk har lovet at præsentere os for i løbet af 2022, men humanoiden Ameca er nok mere fascinerende ved første øjekast.
”Både fysiske robotter og digital humans giver en masse sjove og smarte muligheder, men det kan også være effektive værktøjer til både politisk og kommerciel manipulation. I bogen argumenterer jeg desuden for, at vi på grund af den føromtalte empati med tiden risikerer at tildele juridiske rettigheder til robotter. Det lyder vanvittigt for mange, men når man læser forskningen på området tyder meget desværre på, at det kan blive svært at undgå.”
Brug for lovgivning
Thomas Telving mener, at bogen på flere områder er relevant for jurister og advokater, og han håber, at de vil blande sig i debatten.
”Den mest akutte problematik handler om teknologiens potentiale for manipulation. Forhandlere af digital humans reklamerer med, at de kan firdoble konverteringsraten for webstedsbesøgende, når de skifter en chatbot ud med en digital human. Undersøgelser, som jeg refererer i min bog, viser, at vi har meget svært ved at bevare fornuftens kølighed over for maskiner, der ligner mennesker, så det lyder bestemt ikke urealistisk. Samtidig er det klart, at jo flere data, de får adgang til, desto bedre vil de fungere. Begge dele bruger industrien aktivt og bevidst, fordi det er hypereffektivt.”
Derfor er der brug for mere lovgivning på området, og hellere før end siden.
”Ud over en mærkningsordning, som gør det obligatorisk at angive, at ”nu taler kunden med en robot”, kan man overveje, om teknologien overhovedet bør bruges i salgsøjemed. Jeg håber, at der er jurister, der tør byde ind i disse overvejelser tidligt, så den politiske debat, der kommer, kan få flere nuancer,” siger Thomas Telving.
Et andet og mere langsigtet område, som er relevant for jurister, handler om rettighedsspørgsmålet.
”Når en robot ser sød ud, sker det helt naturligt, at vi begynder at føle empati med den. Vores hjerner følger samme spor, som når vi møder et levende menneske, og det aktiverer en form for moralsk stillingtagen. Vi ved fra historien, at moralsk stillingtagen har det med at aktivere rettighedsdiskussioner. For eksempel som det er sket med dyr på visse områder.
Der, hvor det bliver rigtig svært er, når vi begynder at tale om, hvilke konkrete problemer, det så er, juraen skal løse. Handler det om, at nogle tror, at det kan gøre ondt på en robot, og at den derfor skal beskyttes mod smerten? Eller handler det om, at andre mennesker kan lide en form for overlast, hvis det er tilladt at gå tur med en android og tæske den undervejs, mens nogen ser på?
Min bog går dybt ned i denne debat, men mit perspektiv er primært filosofisk, og det er derfor jeg håber, at dygtige jurister vil tage det alvorligt og gå ind i debatten. Det er let at affeje det som sci-fi-paranoia og lignende, men desværre er det helt reelt, og selvom vi ikke har robotvenner endnu, vil det i den grad være rettidig omhu at se på det.”
Robotter med rettigheder
Thomas Telving ser også retssikkerhedsmæssige udfordringer i det, han beskriver.
”Forestil dig, at robotter rent faktisk får rettigheder. For eksempel som et tidligere medlem af etisk råd har foreslået det her. Hvis det sker, vil der opstå situationer, hvor man kan krænke en robots rettigheder og blive straffet for det.Det betyder, at blot fordi noget ligner et menneske, vil det blive behandlet sådan. Her er vi tilbage ved det med, hvorfor robotter er etisk eller juridisk relevante. Hvis robotten rent faktisk kan mærke noget, vil det måske nok give mening. Det har vi bare ikke nogen videnskabelig metode til at afgøre. På den anden side kan vi altså stå med en robot, der ser ud til at kunne føle smerte, men ikke gør det.
Hvordan skal vi juridisk opføre os i den situation? Enten risikerer vi at gøre det lovligt at slå løs på teknologi, som måske har et følelsesliv (som OpenAI-forskeren Ilya Sutskever for eksempel antyder). Eller også risikerer vi at straffe mennesker for at pådrage skade på noget, der ikke ved, at det sker. Det er et dilemma, og jeg er ikke blind for, at det kan forekomme absurd. Desværre tyder rigtig meget på, at vi ikke kan undslippe det.”
Hvis robotter ender med at få rettigheder, vil det ifølge forfatteren være begyndelsen på en eksistentiel katastrofe for den menneskelige civilisation.
”En mere dæmpet pointe er, at vi skal tage problematikken omkring menneskelignende teknologi og robotter og rettigheder alvorligt og supplere vores teknologibegejstring med sund skepsis. Og med alle de nysgerrige og kritiske spørgsmål, vi glemte at stille, da vi for atten år siden naivt troede, at Facebook ville demokratisere internettet og blive begyndelsen på enden for autokratiske regimer. Som bekendt er det snarere gået stik modsat, så denne gang skal vi gøre det bedre. Også selvom de problemer, vi får - indrømmet ser ret mærkelige ud på afstand.”
For eller imod et bedre samfund
Thomas Telving ser det ikke som en løsning på udfordringerne at forsøge at stoppe den teknologiske udvikling. Han mener til gengæld, at der generelt er brug for langt større selvindsigt i forhold til, hvordan teknologi påvirker os.
”Vi skal være bedre til at se, hvad slagsiderne ved teknologi kan være og hvilke teknologier, der rent faktisk gør os lykkeligere og skaber et bedre samfund. Det betyder ikke, at vi behøver gennemregulere alt juridisk, og selvfølgelig skal vi huske, at AI (kunstig intelligens) kan gøre en masse for at skabe et bedre samfund. Så når vi tager disse her debatter, skal det ikke være for eller imod AI. Det skal være for eller imod et bedre samfund. Og der skal vi turde lovgive, hvis vi synes noget arbejder markant i den forkerte retning.
Vi kan ikke bremse udviklingen, men vi kan godt bremse bestemte former for teknologibrug. Vi gjorde jo heller ikke knive forbudte, da vi fandt ud af, at de udover at være fantastisk nyttige redskaber også kunne være mordvåben. Ofte handler de etiske og juridiske spørgsmål ikke om teknologien i sig selv, men om anvendelsen af den.”
Når det kommer til teknologi, der udnytter menneskelige træk til manipulation, findes der ifølge Thomas Telving flere mulige alternativer til forbud.
”For eksempel ved vi fra forskningen, at det betyder ekstremt meget for, hvor levende folk opfatter teknologi, hvordan vi rammesætter den. Hvis vi kalder en robotmus for George og skriver på emballagen, at den elsker ost, og at den yndlingsfarve er blå, har vi givet den nogle træk, der vil øge vores empati med den. I stedet for, for eksempel at forbyde digital humans kan man måske opsætte nogle begrænsninger i kommunikationen omkring dem, som gør dem mindre effektive til for eksempel salg og manipulation.
Uanset hvad, er svaret ikke let, og derfor håber jeg også, at mange vil blande sig i diskussionen, så vi kan lande et fornuftigt sted, alle kan leve med,” siger Thomas Telving.
Thomas Telving er cand.mag. i filosofi og forfatter og foredragsholder. Han er aktuel med tech-filosofibogen “Killing Sophia – Consciousness, Empathy, and Reason in the Age of Intelligent Robots". Bogen kan købes hos Syddansk Universitetsforlag. Den er på 137 sider og koster kr. 168,-