Ko jānogalina mašīnas autopilotam

Kadrs no filmas «Terminator 2: Judgment Day».
Kadrs no filmas «Terminator 2: Judgment Day».

Pa ceļu brauc mašīna autopilota režīmā. Mašīnā brauc četri pasažieri. Uz ceļa izskrien bērns. Auto dators daudz ātrāk par cilvēku spēj veikt situācijas analīzi un secina, ka iespējami tikai divi scenāriji, abi ar letālām sekām — notriecam bērnu un izglābjam cilvēkus mašīnā vai nogalinām pasažierus un izglābjam bērnu.

Diskusiju aizsāka pirmā letālā autopilota vadītās Teslas avārija. MIT pat izdomāja testu, kurā katrs var iejusties autopilota ādā un pieņemt lēmumu, balsoties uz saviem morāles principiem.

1967. gadā pirmo reizi izvēles ētisko pusi aprakstīja britu filozofs Filippe Fūts kā vagonetes problēmu. To vēlāk papildināja ar modifikācijām un mūsdienās tā pazīstama arī kā dilemma par resno cilvēku.

Attiecībā uz mašīnām un algoritmiem, kādus tajās būtu jāiestāda, diskusija ir bezjēdzīga un morāles principiem šeit galīgi nav vietas. Nomainiet situāciju ar četriem pasažieriem un vienu bērnu pret situāciju ar vienu pasažieri un četriem bērniem. Nomainiet bērnus pret vienu pensionāru, Latvijas Pasta nodaļas darbinieku, nokritušu viedpalīgu vai kaimiņa suni. Un tagad iesēdiniet šos pašus personāžus mašīnā.

Automatizētajai sistēmai ir jādara absolūti viss iespējamais, lai glābtu tās saimnieka dzīvību. Kā Švarcnegera tēlotais terminators glāba Džonu Konoru no T-1000,Teslas (vai jebkuras citas pašbraucošās iekārtas) autopilotam arī ir jāpieņem aukstasinīgs lēmums pie jebkādiem apstākļiem darīt visu iespējamo, lai glābtu savu pasažieru dzīvības. Pat ja tas nozīmētu ietriekties haotiski skrienošu zombiju pūlī.

Jo ir grūti stādīties priekšā automašīnas pircēju, kas būtu gatavs pieņemt, ka viņa iegādātā auto smadzenes var nogalināt saimnieku, pirms slepkavības skaļruņos paziņojot «Vai! Cik skaists sunītis!».

4 thoughts on “Ko jānogalina mašīnas autopilotam”

  1. Vispār jau diskusija par šo un citiem ar autonomajiem auto saistītajiem juridiskajiem jautājumiem sākās krietni pirms Teslas avārijas – vismaz 3-4 gadus atpakaļ. Teslas avārija tikai padarīja šo jautājumu aktuālu “plašām sabiedrības masām”.

  2. Tas morālais tests ir sačakarēts. Jau otrajā jautājumā variants a) nobraukt piecus kājāmgājējus, kas iet pa zaļo gaismu vai b) nosisties pašam. Ja automatizēti braucošs auto ir nonācis līdz šādai izvēlei viņš ir pieļāvis kļūdu jau iepriekš. Izvēloties ātrumu vai vēl kaut ko citu. Tātad mašīnas algoritms jau ir bijis defektīvs līdz mēs nonākam pie šīs izvēles. Ja mašīna ir jau iepriekš bijusi defektīva, tad pareizā izvēle ir “glābt braucēju” ne tāpēc, ka viņa dzīvība ir vērtīgāka, bet tāpēc, ka viņa tiesības uz dzīvību ir primāras.

  3. Manuprāt, dzīvē bez autopilota, vadītājam jābūt ļoti stipriem nerviem un izturībai, un braukšanas prasmei, lai brauktu virsū cilvēkam/dzīvniekam. Visbiežāk tiek darīts viss, lai mēģinātu izvairīties no sadursmes, bet nespējot izkalkulēt īsā brīdī to, ka ļoti iespējams, pats vadītājs būs briesmās vai ies bojā. Cik nav bijuši gadījumi, kad izvairoties no meža dzīvnieka, ietriecas kokā. Visbiežāk varētu iztikt ar relatīvi mazu bojājumu, braucot taisni un bremzējot, bet tomēr iestājas kaut kāda apziņa, ka jāizvairās un jāsaglabā dzīvība, pat ja ieguvums ir daudz mazāks par potenciālajiem zaudējumiem. Autopilots to spētu izkalkulēt un novērtēt briesmas, un manuprāt, būtu jāglābj automašīnas vadītājs, lai gan veicot to morāles testu, ne vienmēr izvēlējos šādu atbildi.

    Tēma ļoti interesanta, turpināšu sekot attīstībai šajā jomā.

  4. Tāpēc jau automāšinas ir aprīkotas ar drošibas jostām, spilveniem un izturīgiem karkasiem, lai, ietriecoties kādā šķērslī, tās pasažieriem būtu maksimāla iespēja izdzīvot. Manuprāt lōģiski būtu mēģināt neuzbraukt 5 bērniem ,kas iet pie zaļās gaismas, bet izrēķināt trajektoriju un ietriekties kādā šķērslī ar minimālu damage. Tadir lielāka iespēja, ka izdzīvos visi. Nekā, kad 5 gājējiem nesas virsū 2,5 tonnas metāla.

Leave a Reply

Your email address will not be published. Required fields are marked *