Det Etiske Råds udtalelse om sociale robotter

Indhold

Sociale robotter og etik
Sociale robotter som relationsteknologi
Omsorgsrelationer
Foregivelsens etik
Når lærende robotter kan tage egne beslutninger

Det Etiske Råds anbefalinger om sociale robotter
1. Sociale robotter og velfærdsteknologi som del af omsorg, terapi og pleje
2. Produktansvar og sociale robotter
3. Når sociale robotter foregiver at have et indre liv
4. Sociale robotter, overvågning og privathed

Sociale robotter og etik

Den teknologiske udvikling af robotter omfatter ikke længere blot industrirobotter, der kan programmeres til at løse veldefinerede og komplekse opgaver inden for fremstillingen af produkter som biler, mobiltelefoner, køleskabe, m.m.

Nu og i fremtiden vil robotter også være at finde midt imellem mennesker - til brug for hjælp og støtte i sociale relationer. Robotter til anvendelse i sociale og følelsesmæssige relationer er under udvikling i forskningslaboratorier i Europa, USA og Japan. Ved siden af industrirobotterne findes der dermed en anden type robotter, 'sociale robotter', der kan interagere med mennesker i dagligdags situationer. Især i Japan er adskillige af disse 'sociale robotter' i dag tilstede på markedet: der findes fx en receptionistrobot, ligesom man kan erhverve sig forskellige robotter, der kan være behjælpelige med løsning af opgaver i hjemmet.

I Danmark har den offentlige debat om 'sociale robotter' de senere år været præget af en interesse for den japanske robotsæl Paro, der fra 2007 blev introduceret i enkelte danske plejehjem. Robotsælen kan betragtes som et interaktivt og intelligent kæledyr. Dens mange følesensorer og dens indbyggede kunstige intelligens betyder, at den reagerer med pibende lyde af tilfredshed eller utilfredshed på brugerens berøringer og tale. Den bliver dermed genstand for, at brugeren kan udvise omsorg, og det har en beroligende og terapeutisk effekt på nogle demente mennesker.

Den aktuelle og potentielle anvendelse af sociale robotter er særligt inden for fire områder: omsorgssektoren, hjælp i hjemmet, underholdning og militær anvendelse. I Danmark er menneskers første møder med robotter sket i plejesituationer (fx robotsælen Paro) og i underholdningssituationer (fx livagtige robotdukker, der kan svare på tiltale). Men anvendelse af robotter til hjælp i hjemmet, en egentlig ”butlerrobot”, er nok heller ikke så langt ude i fremtiden. I Japan kan man allerede i dag købe robotter, der kan hjælpe med børnepasning og med simple manuelle opgaver som at række brugeren genstande (fx løfte ting for mennesker, der har begrænset bevægefrihed).

Allerede nu er det altså sådan, at der opstår nye relationer mellem mennesker og maskiner. Det er relationer, som giver anledning til flere forskellige etiske overvejelser, uafhængigt af, hvordan det i fremtiden vil gå med udviklingen af kunstig intelligens og den selvstændighed eller autonomi, som det måske dermed er muligt at udstyre robotter med.

En del forskere inden for kunstig intelligens mener, at robotter i fremtiden vil kunne udvikles til væsener, der har bevidsthed, følelser og vilje næsten som mennesker. Alle er enige om, at det ikke er lige om hjørnet, og at der er utallige videnskabelige og ingeniørmæssige udfordringer på vejen frem mod et sådant mål. Nogle mener, det er principielt umuligt, men der er også mange forskere, der mener, at det er principielt muligt.

Men som sagt eksisterer der allerede nu relationer mellem mennesker og robotter, som indeholder etiske problemstillinger - også selv om nuværende sociale robotter helt sikkert ikke er væsener, der kan siges at have et indre liv med følelser, bevidsthed og fri vilje.

Denne udtalelse fra Det Etiske Råd handler først og mest om de sociale robotter og de etiske aspekter, der opstår som følge af, at robotterne fungerer som relationsteknologi. Robotter som relationsteknologi er allerede virkelighed og vil i stigende grad blive hverdagsteknologi, uanset hvor langt det vil være muligt at gå i skabelsen af robotter med kunstig intelligens og handlemæssige frihedsgrader.

Relationsteknologi opfattes i det følgende som teknologi, der har virkning og anvendelighed i kraft af, at mennesker indgår i en følelsesmæssig eller social relation til teknologien. Man kan sige, at den sociale og følelsesmæssige interaktion mellem brugeren og det relevante stykke teknologi er selve brugergrænsefladen, når der er tale om relationsteknologi: Robotsælen Paro virker kun beroligende på brugeren, hvis brugeren faktisk giver omsorg til Paro og lader sig påvirke følelsesmæssigt af den. Og en butlerrobot i hjemmet vil kun virke optimalt, hvis den kan 'begå' sig blandt mennesker og overholde intimitetsgrænser, høflighedsregler, mv.

Sociale robotter som relationsteknologi

Der er i hvert fald tre væsentlige etiske spørgsmål forbundet med brugen af sociale robotter som relationsteknologi.

For det første er der spørgsmålet om, hvad det vil betyde for omsorgsrelationer og intimitetsgrænser, når robotter og mennesker begynder at indgå i sociale og følelsesmæssige relationer med hinanden.
For det andet kan man spørge, i hvilket omfang det i sig selv er etisk problematisk, hvis sociale robotter i stadigt stigende omfang kan ligne mennesker i udseende, kommunikation og adfærd og dermed foregive, at de er selvstændigt følende og agerende væsener, altså 'som om' de er menneskelige væsener.
For det tredje er der spørgsmålet om, hvad det vil betyde, hvis sociale robotter kan udstyres med evnen til at tage ved lære og handle med nogle frihedsgrader - det vil sige vælge én handling mellem flere alternativer, hvor valget ikke kan siges at være entydigt bestemt af dens indbyggede system og de algoritmer og den øvrige teknologi, som producenten har udstyret den med.

Omsorgsrelationer

Inden for de senere år er begrebet 'velfærdsteknologi' begyndt at fylde noget i den offentlige debat både nationalt og internationalt, og staten har afsat tre milliarder kroner til investering i arbejdskraftbesparende teknologi (herunder velfærdsteknologi) indtil 2015. Udvikling af velfærdsteknologi kan være et godt teknologisk satsningsområde for Danmark, blandt andet fordi Danmark har en veludbygget plejesektor (plejehjem, hjælpemidler i hjemmet, m.m.). Håbet er, at Danmark kan indtage en førende rolle i udvikling af velfærdsteknologi, og at velfærdsteknologi kan være med til at gøre omsorgen og den fysiske pleje af ældre til en bedre og måske mere værdig oplevelse for ældre i fremtiden. Derudover kan det forbedre plejepersonalets ofte fysisk krævende arbejdsforhold. Sidst, men ikke mindst, er udvikling af velfærdsteknologi motiveret af demografiske forhold: Der bliver i fremtiden færre til at pleje flere ældre, så indførelse af teknologi, der kan reducere mængden og omfanget af den basale fysiske pleje, kan på den baggrund forekomme oplagt.

Begrebet velfærdsteknologi dækker dog over langt mere end sociale robotter. Det omfatter alle typer avanceret teknologi, der kan hjælpe den ældre til at være mere selvhjulpen end ellers. Det kan fx være toiletter, hvor rengøring foregår automatisk, sådan at der ikke er behov for en plejer i denne situation. Det samme kan man forestille sig med badekabiner og lign., og mange sådanne ting er allerede under udvikling eller i produktion. Samme teknologier kan også tænkes at bidrage til, at flere ældre kan blive i deres eget hjem og være mere selvhjulpne og dermed uafhængige af andre menneskers hjælp til rengøring eller personlig pleje.

Det mest iøjnefaldende etiske problem ved anvendelse af denne type teknologi - inklusive egentligt sociale robotter som robotsælen Paro - handler om, hvorvidt disse ting vil glide ind i ældres hverdag som et supplement til eller erstatning for menneskelig kontakt. Det er en relevant bekymring, også selvom de konkrete forsøg med anvendelsen af robotsælen Paro på danske plejehjem blandt andet viser, at de ældre demente mennesker næsten udelukkende fastholder interessen for Paro, hvis de hjælpes til det af personalet. Det vil sige, at den sociale robot Paro er eksempel på en teknologi, der måske ikke indebærer faren for at blive anvendt til at spare menneskelige ressourcer.

Man kan måske se en etisk fordel i, at man ikke i samme grad som nu er nødt til at modtage andre menneskers hjælp til personlig hygiejne, som overskrider den enkeltes intimitetsgrænser. Argumentet kan dernæst være, at der bliver mere overskud til egentligt værdifuldt menneskeligt samvær (som fx samtale og det bare at være til stede), når familiemedlemmer og ansatte plejere ikke længere skal bruge så meget tid på at hjælpe den enkelte med personlig hygiejne og lign.

På den anden side er der bekymring for, at indførelsen af velfærdsteknologi - og måske især indførelsen af sociale robotter som Paro eller butlerrobotter - vil medføre en formindsket menneskelig kontakt og en svagere fornemmelse af forpligtelse til at yde omsorg mellem mennesker, der ellers har følelsesmæssige og familiære bånd til hinanden. Bekymringen er så at sige, at sociale robotter vil træde i stedet for den menneskelige kontakt snarere end at supplere den.

Det er åbenlyst, at sociale robotter kan overtage nogle af de hjælpefunktioner, som mennesker hjælper hinanden med i dag. Dermed kan de ændre på billedet af hvilke hjælpehandlinger, der hører til den kategori, som vi opfatter som mellemmenneskelig omsorg og kontakt. Hvis det fx bliver stadigt mere normalt, at velfærdsteknologi og herunder robotter tager sig af den kropslige hygiejne og pleje, som er forbundet med intimsfæren, så vil vores billede af, hvad der er egentlig menneskelig omsorg formentligt også blive ændret. Måske vil menneskelig omsorg så mere specifikt og mere eksklusivt blive opfattet som samvær og samtale.

Etisk set vil man kunne opfatte denne situation som et fremskridt eller et tilbageskridt. Nogle vil mene, at det giver den enkelte mere frihed og værdighed, hvis han eller hun ikke er tvunget til at vænne sig til hjælp fra andre mennesker på områder, der udfordrer intimsfæren. Andre vil mene, at der vil gå noget tabt fra den menneskelige omsorg, hvis mennesker afskærmes for meget fra hinandens kropslige sårbarhed og i for høj grad afvænnes fra den kropslige kontakt, der måske er en uundværlig del af omsorgen mellem et menneske, der har brug for hjælp og et andet menneske, der giver hjælpen.

Opsummerende er der to typer af etiske spørgsmål knyttet til sociale robotter i omsorgsrelationer:

For det første er der spørgsmålet om, hvorvidt sociale robotter i omsorgsrelationer vil supplere eller erstatte menneskelig kontakt.

Men for det andet er der spørgsmålet om, hvilke hjælpeaktiviteter det overhovedet vil være ønskeligt, at den sociale robot overtager eller supplerer den menneskelige omsorgsrelation med.

Sociale robotter, der som robotsælen Paro er terapeutiske, tilbyder måske noget helt andet, end mennesker (eller kæledyr) kan tilbyde. Den ældre dementes samvær med Paro virker både aktiverende og beroligende, og måske virker den også egentligt behandlende, fordi den dementes hjerne trænes og holdes i 'bedre stand' end ellers muligt. I danske forsøg med robotsælen Paro har der ikke indtil videre været en klar skelnen mellem henholdsvis almindeligt aktiverende brug og egentlig genoptræning af ellers tabte funktioner i hjernen. Der er dermed endnu ikke evidens for en helbredende virkning, mens der er erfaringer, der siger, at nogle ældre demente kan have gavn af Paro i den forstand, at deres humør og livskvalitet hæves, mens de er aktiveret med robotsælen.

Det er givet, at den form for kontakt ikke kan tilbydes af mennesker eller sågar af rigtige kæledyr. For det er kun en robotsæl som Paro, der finder sig i at blive nusset og aet og talt til i præcis den tid, som den demente ældre har brug for. Det separate etiske spørgsmål, der rejses her, er snarere spørgsmålet om, hvorvidt denne terapi virker, og i hvor høj grad den i så fald bør prioriteres i forhold til andre terapeutiske tiltag. Endelig er der så spørgsmålet om, hvorvidt 'det foregivne' i situationen i sig selv udgør et etisk problem? Er det med andre ord problematisk, at den terapeutiske effekt afhænger af et slags 'bedrag': nemlig at robotsælen er interesseret i din omsorg og i en eller anden forstand er mere end en ting?

Foregivelsens etik

Både forskning og vores hverdagserfaring fortæller os, at der ikke skal meget til, for at der kan opstå følelsesmæssige relationer mellem mennesker og de ting, vi omgiver os med. Der skal heller ikke meget til, for at vi begynder at relatere til ting omkring os, 'som om' disse ting havde et indre liv, der minder om vores eget.

Vi kender besjælingen af ting, vi omgiver os med, fra børns leg med deres dukker eller hvad som helst, der kan optræde som aktører i deres fantasifulde leg. Men den avancerede robotforskning har også længe erkendt, at det er menneskets evne til at besjæle og personificere genstande, som man må bygge på, hvis man vil have robotter, der skal indgå i sociale sammenhænge med mennesker. Denne erkendelse er nu i flere årtier blevet udviklet på tværs af ingeniørmæssig kunnen og socialpsykologiske studier.

Et tidligt eksempel på denne trend i robotforskningen er den sociale robot ”Kismet” - en sjovt udseende torso med store læber, øjne og ører. Kismet er konstrueret til at studere især børns interaktion med robotten, og den er konstrueret ud fra den erkendelse, at nogle få markante træk ved robottens udseende og dens måde at reagere på er afgørende for, om den indbyder til, at mennesker danner følelsesmæssige relationer til den. Kismet ligner ikke et menneske, men den har nogle menneskelige træk kombineret med katteagtige ører. Kismet kan rette sit blik imod ting, og den har forskellige indbyggede skalaer for, hvornår den skal udvise tegn på kedsomhed eller spænding. Interessant er det også, at Kismet ikke har nogen sprogopfattelse, men kan reagere på tonefaldet i en stemme, uanset hvilket sprog, der tales. Det kaldes prosodi og svarer til små børn eller kæledyr, der instinktivt opfatter ros eller forbud alene ud fra tonefaldet.

Kismet såvel som den terapeutiske robotsæl Paro er altså eksempler på, at der trods alt ikke skal en fuldt udviklet kognitiv kunstig intelligens til, før det er muligt for mennesker at indgå i en form for social eller følelsesmæssig relation til robotten. Spørgsmålet er nu, om det i sig selv er et etisk problem, at der opstår sådanne relationer mellem mennesker og maskiner og måske især, at sådanne relationer er baseret på et element af ”foregivelse”: Den sociale robot foregiver at have bestemte følelser eller indre tilstande som respons på interaktionen med mennesket, og dette skaber en fornemmelse af, at man står over for et væsen, der har krav på omsorg, og som man kan kommunikere med. Er denne foregivelse et etisk problem, også selv om ingen søger at bedrage brugeren af robotten til at tro, at robotten er noget mere end en maskine?

Der er i hvert fald to mulige etiske bekymringer forbundet hermed. Den første bekymring handler om selve ubehaget ved elementet af snyd og ved, at det ikke er helt værdigt at tilbyde især børn og ældre demente (det vil sige i varierende grad skrøbelige og umyndige mennesker) rene simulationer af sociale relationer, som ellers kun opstår i omsorgen mellem mennesker og andre levende væsner. Man kan sige, at det er en umiddelbar bekymring, som mange mennesker instinktivt reagerer med, når de præsenteres for sociale robotter som fx robotsælen Paro. Bekymringen indeholder to elementer: At der er tale om snyd i forhold til den 'ægte' vare, og at den relation man får til maskinen, i sig selv er uværdig for et menneske at indgå i.

Den anden etiske bekymring handler mere om, hvilke afledte virkninger denne relationsteknologi kan få for opfattelsen af mellemmenneskelige relationer. Måske er det nemlig sådan, at en udbredt anvendelse af relationsteknologier som Paro og robotdukker, mv. kan medføre uønskværdige forandringer af menneskers måder at opfatte og behandle hinanden på. Et forskningsprojekt har vist, at brugere af Sonys tidligere markedsførte robothund Aibo har en tendens til både at opfatte robothunden som en teknologisk dims og som et væsen med indre mental tilstand. Det skyldes, at Aibo vækker følelser hos dem, som om den var et levende væsen (uagtet at de altså - adspurgt - naturligvis udmærket er klar over, at Aibo er en maskine). Lige så klart er det imidlertid, at brugerne ikke opfatter Aibo som et væsen, der har et moralsk krav på omsorg og hensyntagen. Flere forskere peger på, at det udviklingspsykologisk kan være et problem, hvis især børn optrænes med en idealtype for sociale relationer, som indebærer, at den ene 'part' (der simuleret er et væsen med indre følelser) kan vække følelser hos den anden part (mennesket, barnet), men uden at der til følelserne er knyttet en gensidig moralsk omsorgsrelation. Bekymringen er, at dette kan overføres til relationen mellem mennesker og skabe øget narcissisme eller egoisme, hvor den ene part knytter sig følelsesmæssigt til den anden part uden at føle en moralsk respekt for den andens omsorgsbehov.

Når lærende robotter kan tage egne beslutninger

Allerede i 1942 formulerede science fiction-forfatteren Isaac Asimov tre robotlove. De tre love var tænkt som regler, der kunne sikre, at robotter, som træffer afgørelser og beslutninger på egen hånd, ikke kan handle på måder, der er uhensigtsmæssige for mennesker. Kort sagt går lovene ud på, at en robot ikke må skade et menneske, robotten skal adlyde mennesker med mindre det er i konflikt med den førstnævnte lov, og endelig skal robotten beskytte sin egen eksistens, såfremt dette ikke er i konflikt med de to første love.

Med udgangspunkt i de tre love skrev Isaac Asimov en række historier, som imidlertid viser, hvor svært det er at fastsætte simple regler for en etisk set hensigtsmæssig adfærd. Robotter, der skal tage stilling til meget komplekse etiske spørgsmål, er da også et stykke ude i fremtiden. Ikke desto mindre eksisterer der forskning og faglig diskussion om problemstillingen vedrørende sikkerhed og teknologi i forhold til robotter, der vil kunne træffe beslutninger og handle på egen hånd.

Det skyldes, at fremtidige muligheder, som i dag kan lyde som ren fiktion, naturligvis er relevante i en etisk diskussion, såfremt der faktisk er tale om muligheder, der ifølge fagpersoner på feltet vil kunne realiseres på et givet tidspunkt. Men det skyldes også, at sociale robotter allerede nu og i nær fremtid vil kunne have handlingsmæssige frihedsgrader, der giver relevante etiske overvejelser, også selv om disse frihedsgrader ikke på nogen meningsfuld måde kan sidestilles med det, vi opfatter som frihed i det menneskelige handlingsliv.

For uanset hvad man ellers måtte lægge i begrebet om menneskelig selvbestemmelse og frihed, står det klart, at personlige og sociale robotter selv inden for en overskuelig fremtid vil være i stand til at tage ved lære af deres erfaringer - fx som 'butler' i et hjem - og i dette miljø vil de have nogle frihedsgrader i forhold til, hvilket valg, der træffes i en konkret situation.

Robotten vil naturligvis ikke have uanede muligheder, men tanken med sociale robotter er, at de skal være udstyret med sanser og algoritmer, der gør dem i stand til at tage ved lære på samme måde, som børn tager ved lære - det vil sige ved, at et menneske viser eller forklarer, hvordan man udfører en given handling (fx rækker én en genstand).

Det umiddelbart håndgribelige etiske problem i forbindelse med lærende robotter er spørgsmålet om ansvar. For hvis en robot er i stand til at lære gennem sin interaktion med det givne miljø, hvem har så ansvaret for udfaldet af de 'nye' handlinger, som robotten udfører og som den ikke fuldstændigt deterministisk er programmeret til at udføre på en præcist foreskrevet måde.

Kan man sige, at producenten kan holdes ansvarsfri som følge af selve det forhold, at robotten er udstyret med læringsprogrammer, der skal gøre dens opgaveløsning fleksibel og dermed ikke helt forudsigelig? Hvem har ansvaret, hvis robotten fejlfunktionerer set ud fra den hensigt, som robottens ejer havde med en given ordre eller handling? Hvis fx robotten forveksler en given genstand med en anden genstand, som ødelægges, hvis der gribes for hårdt om den - eller værre endnu, volder skade på et menneske -, og hvis dette kan tilskrives, at den tilfældigvis har gennemgået en uhensigtsmæssig læring - hvem har så ansvaret, når nu fleksibel og ikke forudsigelig læring er selve pointen med robottens måde at fungere på?

Det afgørende spørgsmål er her, om man mener, det er en nødvendig betingelse for tilskrivelse af ansvar, at den, der har ansvaret, også må have fuld kontrol over hele situationen. Det er imidlertid ikke tilfældet. Forældre er i nogen grad ansvarlige for deres umyndige børns handlinger, uanset om forældrene kan siges at være direkte skyld i disse handlinger eller ej. På samme måde har arbejdsgivere, fx en fabriksejer, et ansvar for arbejdsulykker, også selvom han ikke er direkte skyld i dem, og selv om han eventuelt ikke kunne forudsige eller forhindre dem. Endelig har producenter et ansvar for at overholde sikkerhedskrav, mv., sådan at brugeren af produktet ikke udsættes for skade ved anvendelsen af produktet.

Til toppen

Det Etiske Råds anbefalinger om sociale robotter

Det Etiske Råd mener, at udviklingen af robotter til brug blandt mennesker som hjælp i deres hverdag, som underholdning eller som terapi er en udvikling, der med tiden vil indebære flere og flere etiske overvejelser, og heriblandt sådanne, som det på nuværende tidspunkt er svært at forudsige og beskrive. Derfor er det vigtigt, at robotteknologien løbende følges og kommenteres ud fra en etisk synsvinkel. De følgende kortfattede anbefalinger bør betragtes som Rådets etiske retningslinjer for nogle af de mest centrale og mest aktuelle problemstillinger inden for sociale robotter og relationsteknologi. Anbefalingerne vil kunne bruges af politikere og andre aktører på området som gode punkter at have in mente, når der eventuelt skal lovgives på området, og når nye teknologier udvikles.

1. Sociale robotter og velfærdsteknologi som del af omsorg, terapi og pleje

Det Etiske Råd er positivt indstillet over for anvendelsen af sociale robotter som fx robotsælen Paro i sammenhænge, hvor en sådan teknologi kan indgå som supplement til den øvrige pleje og terapi. Det Etiske Råd synes også, man bør fremme velfærdsteknologi, der kan overtage dele af den kropslige pleje, som for mange mennesker kan virke overskridende i forhold til intimitetsgrænser, og som desuden kan medvirke til at lette det nogle gange fysisk hårde arbejde, som plejepersonalet ellers må leve med.

Det er dog afgørende vigtigt, at disse teknologier aldrig bliver indført som en erstatning for egentlig menneskelig kontakt, samvær og omsorg. Tværtimod mener Det Etiske Råd, at det bør tilstræbes at anvende teknologierne med henblik på, at de menneskelige ressourcer kan reserveres til ydelsen af former for omsorg, som i langt højere krav kræver egentlig menneskelig kontakt - nemlig omsorg gennem ømhed, berøring, samvær og samtale. I samme åndedrag må Rådet imidlertid slå fast, at den gode omsorg ofte hænger sammen med handlinger, der er bundet til en nødvendighed eller afhængighed: ømhed, berøring, samvær og samtale er omsorgsformer, der ofte opstår ud af, at der er et behov for hjælp i form af støtte til kropslig pleje, at komme rundt, etc.

Det Etiske Råd mener, at teknologiudvikling på dette område bør være præget af princippet om at fremme mulighederne for menneskelig kontakt, og ikke træde i stedet for menneskelig kontakt med ting, der efter denne målestok altid vil være helt utilstrækkelige erstatningsprodukter.

Det Etiske Råd mener, at udviklingen af sociale robotter og relationsteknologi til anvendelse over for sårbare borgere bør følges opmærksomt under inddragelse af etiske hensyn. Det Etiske Råd peger derfor på vigtigheden af, at egentlige forskningsforsøg med teknologier som fx robotsælen Paro forelægges til godkendelse hos det videnskabsetiske komitésystem. På plejehjem kan sociale robotter som robotsælen Paro indføres som en del af de øvrige almindelige tilbud. Men et projekt skal godkendes, hvis der er tale om egentlig forskning, hvor der foretages systematiske observationer af interaktionen mellem mennesker og relationsteknologien med henblik på at måle teknologiens terapeutiske effekt. Det Etiske Råd mener, det er gavnligt, at forskningsforsøg gennemføres, og Rådet mener også, det er gavnligt, at sådanne forskningsforsøg i de videnskabsetiske komiteer løbende vurderes ud fra etiske hensyn. Denne proces giver en vis sikkerhed for, at sociale, etiske og samfundsmæssige hensyn har været overvejet, før teknologier implementeres fx i dagligdagen på plejehjem.

Der er efter Rådets opfattelse en oplagt risiko for, at teknologier som fx robotsælen Paro og velfærdsteknologi til kropspleje fx i situationer med stram økonomi vil blive anvendt til at mindske den menneskelige omsorg frem for udelukkende at supplere den. Dette behøver ikke være udtryk for ond vilje. Men en teknologi, der er indført med gode intentioner om at være et supplement, er snublende nær at anvende til bekvemmelighed og som ren nødforanstaltning især i tilfælde af, at der faktisk er for få plejere eller for få penge til at lønne plejere med. Derfor mener Det Etiske Råd, at en introduktion af disse former for teknologi i plejesektoren kan øge nødvendigheden af at cementere og udvikle stærke faglige og menneskelige standarder i omsorgssektoren - standarder, som fortsat skal sikre, at der er fokus på at yde den bedst tænkelige menneskelige omsorg og dermed hjælpe de ældre til at have et så godt liv som muligt.

Det Etiske Råd anbefaler desuden, at beslutninger om at indføre robotteknologi i en konkret plejesammenhæng træffes af et forum, hvori også de plejekrævende er repræsenterede, og hvor etiske overvejelser indgår i baggrunden for beslutningen.

Det Etiske Råd er således overvejende positivt indstillet over for anvendelsen af avanceret teknologi til brug for følelsesmæssig terapi og til brug for aflastning af den kropslige pleje, så længe der er tale om et supplement til menneskelig kontakt eller endnu bedre, hvis det kan virke som en styrkelse af den menneskelige kontakt i den forstand, at teknologien frigiver flere menneskelige ressourcer til omsorg i form af ømhed, samvær og samtale. Dog vil en frasortering af den menneskelige kontakt i den kropslige pleje uden tvivl medføre en form for sterilisering - en manglende sans for og agtelse for den kropslige kontakts betydning. Blandt andet derfor bør man være opmærksom på, at der bevares en god balance mellem teknologisk assisteret pleje og den manuelt, menneskelige pleje. Det Etiske Råd mener derfor også, det i vid udstrækning bør overlades til de plejekrævendes egen afgørelse, om de ønsker den ene eller den anden form for pleje.

2. Produktansvar og sociale robotter

På lidt længere sigt må man som omtalt forvente, at sociale robotter vil kunne bruges som ”butlere” i hjemmet eller i institutioner, hvor der er mennesker med behov for fysisk hjælp. Sociale robotter vil kunne være fleksible i deres opgaveløsning, og de vil i højere og højere grad kunne tilpasse sig den enkelte brugers eget miljø og vaner, mv.

Denne fleksibilitet hænger nøje sammen med, at sociale robotter vil være udstyret med evnen til at lære nye handlinger, som ikke er programmeret forud for robottens ibrugtagning i hjemmet. Evnen til at lære er bygget ind i robotten, men de enkelte handlinger er handlinger, som ikke er forudsigelige i detaljer, idet det netop er pointen, at brugeren skal kunne lære robotten at gøre de handlinger, som netop den enkelte bruger har behov for i sit særlige miljø. Det er robotforskernes velunderbyggede vision, at læring skal kunne foregå på en måde, der meget ligner den måde, mennesker lærer på - det vil i første omgang sige, at man simpelthen viser robotten, hvordan man gør (for eksempel tager en karton ud af køleskabet og sætter den på spisebordet).

De sociale robotters evne til at lære skaber et etisk problem, der handler om ansvar: Kan virksomheden bag robotten siges at have ansvaret for en fejl, som robotten foretager, hvis selve handlingen ikke er programmeret ind i robotten på forhånd? Der er naturligvis ikke tale om, at robotter kan lære hvad som helst på et hvilket som helst abstraktionsniveau. Robotten er begrænset af rækkevidden af sin 'indre' kunstige intelligens (talegenkendelse, visuel genkendelse, forståelse af rumlighed, efterabning af sociale spilleregler mv.) såvel som af sit 'ydre' (det mekaniske bevægeapparat og sanseapparat).

Dermed er det heller ikke meget spektakulære fejlhandlinger, som man i første omgang fokuserer på. Det handler basalt set om robottens evne til fx at genkende genstande og koble brugerens navne for bestemte genstande til de rigtige genstande 'ude i virkeligheden' og reagere på beskeder på en hensigtsmæssig måde. Man kan forestille sig, at robotten bliver bedt om at gribe om en genstand, men i stedet kommer til at gribe hårdt fat om en persons arm, måske fordi vedkommende står det sted, hvor genstanden plejer at være og robotten ikke visuelt er i stand til at skelne det ene fra det andet. Hvem har ansvaret for sådanne fejl, når hver handling og hver funktion ikke er bygget detaljeret ind i robottens design fra starten? Er det producenten, eller er det den eller de, der har taget robotten i brug, som har ansvaret?

Det Etiske Råd mener, at den delvise uforudsigelighed af en lærende robots handlinger under alle omstændigheder bør betyde, at der fastsættes præcise og restriktive regler for, hvilke rent fysiske 'evner' man må udstyre en robot med, som skal kunne markedsføres til brug i hjemmet. Derudover bør der naturligvis også være krav om, at den sociale robots system for læring, sansning og bevægelighed er testet op mod nogle velkonsoliderede faglige standarder. Disse forholdsregler bør sikre, at den fleksible og lærende robot ikke kan volde væsentlig materiel eller personskade, selv ikke i de tilfælde, hvor den så at sige har 'lært noget forkert'. Den sociale robots delvise afhængighed af en konsistent læring giver desuden grund til ekstra vagtsomhed og ekstra sikkerhedsregler i forhold til anvendelsen hos mennesker, der er demente eller på anden vis ikke er fuldt ud fornuftshabile.

3. Når sociale robotter foregiver at have et indre liv

Det er en væsentlig del af ideen med sociale robotter, at de er nemme at omgås, og at de kan udføre deres rolle og arbejde ved at kommunikere naturligt med mennesker på måder, der minder om de måder, mennesker kommunikerer med hinanden på. En social robot har ikke et tastatur, hvor brugeren skal taste ind, hvad brugeren gerne vil have gjort. En social robot skal derimod kunne reagere med parathed, når brugeren kigger hen på robotten og eventuelt tiltaler den. En social robot skal også kunne aflæse tegn på brugerens emotionelle sindstilstand ved med dens sensorer at afkode brugerens verbale sprog, kropssproget, kropstemperatur mv. - og den skal kunne reagere passende på disse signaler (fx ikke forstyrre brugeren, hvis det ser ud som om, han eller hun ikke vil forstyrres).

Dette grundlæggende teknologiske koncept medfører, at interaktionsformen mellem mennesker delvist kopieres og overføres til forholdet mellem menneske og maskine (den sociale robot). Man kan sige, at social robotteknologi målrettet arbejder på - i forskellige grader - at forstærke den almindeligt forekommende menneskelige tendens til imaginært at personificere og levendegøre genstande i omverdenen. Sociale robotter, der enten delvist ligner mennesker eller kæledyr, udstyres med mekanismer, der foregiver at være umiddelbare udtryk for indre følelser - fx simple ansigtsudtryk, fokuserende øjne eller veltilfredse pibelyde som hos den terapeutiske robotsæl Paro (se tidligere). Teknologien lægger på den måde op til, at brugeren 'spiller spillet' og i sine handlinger og interaktion med den sociale robot faktisk fortolker de ydre tegn hos robotten som noget, der modsvares af en følelsesmæssig tilstand.

Er der noget etisk problematisk i dette 'spil' eller denne foregivelse af, at der er et gensidigt følelsesmæssigt eller interpersonelt forhold mellem mennesket og maskinen? Det Etiske Råd mener, at der i hvert fald er to etiske aspekter af denne foregivelse, som både robotfirmaerne og det modtagende samfund bør overveje:

For det første vil foregivelsen af emotionelle tilstande og indre liv hos robotten fungere i et kontinuum fra en slags bedrag til det rene 'spil', hvor brugeren er helt bevidst om robottens status som et maskinelt lege- eller omsorgsinstrument. Graden af bedrag vil afhænge af brugerens alder og af brugerens livsomstændigheder. Det er med andre ord sådan, at man i højere grad fører brugeren bag lyset, når der er tale om børn eller voksne mennesker, der ikke er fornuftshabile (fx svært demente mennesker). Det Etiske Råd mener ikke, at elementet af snyd eller foregivelse nødvendigvis er et problem - heller ikke når brugeren er et menneske, der ikke er fornuftshabil. Dette under forudsætning af, at omgangen med en social robot som fx Paro har en gavnlig virkning på brugerens velbefindende. Dog mener Det Etiske Råd, at de ansvarlige personer (fx plejere af ældre demente) hele tiden bør vurdere, om brugerens værdighed krænkes: hvordan påvirkes brugerens identitet og ikke mindst, hvordan påvirkes de sociale relationer rundt om brugeren? Det bør fx vurderes, om den stærkt demente ældre bliver barnliggjort og set ned på af de andre, fordi vedkommende er optaget af en maskine og måske i en sådan grad, at vedkommende end ikke er klar over, at der er tale om en maskine.

For det andet kan man spørge, om en udbredt anvendelse af sociale robotter og relationsteknologi kan føre til en afstumpning af det menneskelige følelsesliv. Dette etiske spørgsmål er uafhængigt af bedragsaspektet, fordi spørgsmålet handler om, hvorvidt selv den blotte leg eller bevidste foregivelse af en følelsesmæssig relation til sociale robotter i sidste ende kan have uønskværdige psykosociale konsekvenser.

Det er med tanke på en risiko for afstumpning af det menneskelige følelsesliv, at nogle robotforskere og debattører mener, der bør være regler for, hvordan man behandler robotter, der på forskellig vis går direkte ind i en følelsesmæssig relation til mennesker og som måske med tiden også ligner et menneske temmelig meget i udseende og adfærd. For hvis man vænner sig til at behandle disse menneskelignede maskiner efter forgodtbefindende, hvordan vil det så gå med respekten for og empatien for mennesker af kød og blod?

Som tidligere nævnt har brugerundersøgelser vist, at brugerne er følelsesmæssigt engageret i de sociale robotter. Der kan opstå uheldige psykologiske følgevirkninger, fordi robotten på meget realistiske måder efterligner et forhold til et menneskeligt væsen eller et kæledyr, mens selve forholdet dog stadigt er et ensidigt forhold, hvor kun den ene part får noget ud af det. Man kan bekymre sig for, at dette skaber præcedens for egocentrerede sociale relationer også blandt mennesker. Relationer, hvor den ene er ude efter at få noget følelsesmæssigt ud af det, uden at føle sig moralsk ansvarlig for den andens velbefindende.

Denne bekymring og diskussion vedrørende sociale robotter minder om de bekymringer, som man kan fremføre vedrørende en udbredt anvendelse af (voldelige) computerspil, avatarer og forskellige 'kunstige identiteter' i sociale netværk på Internettet. Kan disse nye relationer og kommunikationsformer føre til en forråelse af menneskelige relationer? Det Etiske Råd har ikke noget klart svar på spørgsmålet.

Rådet vil dog pege på, at lovgivere og det øvrige samfund bør være opmærksomme på udviklingen og eventuelt regulere markedet især på de områder, hvor sociale robotter vil blive markedsført over for børn og unge. Her kan der vise sig et oplagt behov for at beskytte børn og unge mod en psykosocialt uønskværdig udvikling.

4. Sociale robotter, overvågning og privathed

Teknologier til overvågning og registrering af menneskers handlinger og forbrugsmønstre er som bekendt allerede vidt udbredte i samfundet. Der eksisterer også mange forskellige reguleringer af, hvad og hvornår der må overvåges, hvilke oplysninger der må registreres, og hvordan oplysninger må gemmes af myndigheder, mv. Den etiske debat om privatlivets fred over for forskellige nyttighedsvurderinger af overvågning og registrering af personlige oplysninger er derfor heller ikke nogen ny debat. Det er heller ikke sådan, at indførelsen af sociale robotter i den henseende rejser nye etiske spørgsmål i forbindelse med privatlivets fred og beskyttelse af personlige oplysninger. Det er derimod sådan, at brugen af sociale robotter i hjemmet eller på institutioner er en teknologianvendelse, der kan indebære de klassiske etiske overvejelser vedrørende privathed og eksponering af personlige oplysninger for uvedkommende.

En social robot kan opnå information om sin bruger på to forskellige måder. Det er information, der særligt aktualiserer spørgsmålet om overvågning og fortrolighed, hvis disse informationer gives videre til andre systemer og dermed potentielt til andre mennesker, myndigheder, m.m. Den ene form for informationer svarer til de informationer, som en almindelig computer kan rumme: faktuelle informationer om personnumre, adresseoplysninger, helbredsoplysninger, fotos, bankoplysninger og en langt række andre personfølsomme data.

Den anden form for informationer, som en social robot kan tænkes at indeholde, er lidt mere særegen for denne type teknologi: en velfungerende social robot skal kunne lære og registrere brugerens vaner, forbrugsmønstre mv. For eksempel med det formål at kunne bestille nye madvarer over nettet, kontakte apoteket eller lign. Teknologiens muligheder er mange på lidt længere sigt. Robotten vil på den måde lagre informationer, der mere har karakter af adfærdsinformationer og information om brugerens handlemønstre. Denne type information svarer lidt til den forbrugsanalyse, der automatisk sker, når man fx handler ind på nettet ved store indkøbssteder (for eksempel bøger og musik). Hvis brugeren tillader det, afleverer computeren en såkaldt 'cookie' til internetbutikken, hvilket gør det muligt at fremsende målrettede tilbud baseret på tidligere adfærd. Den type adfærdsbaserede informationer vil i høj grad være noget, som en social robot vil kunne indeholde og sende videre til andre systemer som fx internetbaserede butikker, myndigheder mv. - men den sociale robots lærende omgang med sin bruger gør det potentielt muligt at lagre informationer om mere intime ting (toiletbesøg, antal besøg af andre mennesker, antal timer fjernsynskiggeri på en bestemt kanal, etc.).

Det Etiske Råd mener, at sociale robotter bør udstyres med en så begrænset tilgang til eksterne informationssystemer som muligt - og der bør være høje sikkerhedskrav i forbindelse med en social robots adgang til Internettet og andre systemer i de tilfælde, hvor robotten er af en type, der vil kunne lagre detaljeret viden om personfølsomme oplysninger (hvad enten der er tale om statiske data eller adfærdsdata). På den anden side er det klart, at en social robot vil være betydelig mere nyttig, hvis den i høj grad kan kommunikere elektronisk med for eksempel tjenester på internettet.

Det Etiske Råd mener, at sociale robotter i vid udstrækning bør være omfattet af samme type regulering, som i dag gælder for computere og internetsystemer. Her er der sikkerhedskrav til softwareudviklere, udbydere af internetadgang og udbydere af internettjenester som fx butikker og banker, som skal sikre, at man kan anvende Internettet uden at løbe store risici for, at personfølsomme oplysninger spredes uden brugerens viden herom. Med en computer og internetadgang er det til gengæld sådan, at brugeren naturligvis kan lagre præcis de informationer om sig selv, som han eller hun har lyst til. Og det er også sådan, at brugeren kan vælge at videregive disse oplysninger til dem, han eller hun selv ønsker at videregive dem til fx via internettet. Men Det Etiske Råd mener, der kan være grund til en øget forbrugerbeskyttelse i forhold til de sociale robotter, som teknisk set vil blive i stand til at samle og lagre informationer om adfærd og helbred. En regulering af området kunne for eksempel tage højde for, at sikkerhedsniveauer må være forskellige alt efter typer af information. Brugeren kan måske have mulighed for at videregive en opgave til robotten om at holde køleskabet ajour med madvarer og i den forbindelse måske tillade, at forbrugsmønstre kan videregives til tjenester, der så via robotten kan informere brugeren om tilbud på lignende madvarer mv. (blot for at nævne et tænkt eksempel). Derudover kan man forestille sig, at robotten teknisk set kun har mulighed for sådan en funktionalitet i forbindelse med et snævert felt af oplysningstyper. Når det kommer til oplysninger, som robotten kommer til at indeholde som følge af den løbende omgang med sin bruger (fx oplysninger om medicinindtag, læsevaner, interesser, etc.), kan man forestille sig, at robotten 'tvinges' til at opføre sig som en almindelig computer - det vil sige her er det kun muligt at videregive oplysningerne, hvis brugeren manuelt betjener en brugergrænseflade på robotten eller betjener sin computer, til hvilken robotten på anmodning sender oplysningerne videre til.