Ko jānogalina mašīnas autopilotam

Kadrs no filmas «Terminator 2: Judgment Day».
Kadrs no filmas «Terminator 2: Judgment Day».

Pa ceļu brauc mašīna autopilota režīmā. Mašīnā brauc četri pasažieri. Uz ceļa izskrien bērns. Auto dators daudz ātrāk par cilvēku spēj veikt situācijas analīzi un secina, ka iespējami tikai divi scenāriji, abi ar letālām sekām — notriecam bērnu un izglābjam cilvēkus mašīnā vai nogalinām pasažierus un izglābjam bērnu.

Diskusiju aizsāka pirmā letālā autopilota vadītās Teslas avārija. MIT pat izdomāja testu, kurā katrs var iejusties autopilota ādā un pieņemt lēmumu, balsoties uz saviem morāles principiem.

1967. gadā pirmo reizi izvēles ētisko pusi aprakstīja britu filozofs Filippe Fūts kā vagonetes problēmu. To vēlāk papildināja ar modifikācijām un mūsdienās tā pazīstama arī kā dilemma par resno cilvēku.

Attiecībā uz mašīnām un algoritmiem, kādus tajās būtu jāiestāda, diskusija ir bezjēdzīga un morāles principiem šeit galīgi nav vietas. Nomainiet situāciju ar četriem pasažieriem un vienu bērnu pret situāciju ar vienu pasažieri un četriem bērniem. Nomainiet bērnus pret vienu pensionāru, Latvijas Pasta nodaļas darbinieku, nokritušu viedpalīgu vai kaimiņa suni. Un tagad iesēdiniet šos pašus personāžus mašīnā.

Automatizētajai sistēmai ir jādara absolūti viss iespējamais, lai glābtu tās saimnieka dzīvību. Kā Švarcnegera tēlotais terminators glāba Džonu Konoru no T-1000,Teslas (vai jebkuras citas pašbraucošās iekārtas) autopilotam arī ir jāpieņem aukstasinīgs lēmums pie jebkādiem apstākļiem darīt visu iespējamo, lai glābtu savu pasažieru dzīvības. Pat ja tas nozīmētu ietriekties haotiski skrienošu zombiju pūlī.

Jo ir grūti stādīties priekšā automašīnas pircēju, kas būtu gatavs pieņemt, ka viņa iegādātā auto smadzenes var nogalināt saimnieku, pirms slepkavības skaļruņos paziņojot «Vai! Cik skaists sunītis!».