" (Created for War), en frugtbar refleksion over kamprobotter, og "Ghost Fleet", en historie om den tredje Verdenskrig, takket være hvilket han lavet en rapport for det amerikanske senats væbnede tjenesteudvalg. Han var teknisk konsulent i forbindelse med skabelsen af sådanne spil som "Call of Duty" og " Metal gear", såvel som på settet Hollywood film. Når seriøse mennesker vil diskutere brugen af maskiner i krig, inviterer de Singer eller kommer ind på hans kontor tænketank New America Foundation, beliggende kun en blok fra Det Hvide Hus.
Derfor var det ikke overraskende, at han blev inviteret til et militært spilprojekt, der forsøgte at forudsige krigens forløb i fremtiden. Men da han ankom der, opdagede han, at projektets forfattere brugte billeder fra film som "Terminator" til at illustrere fremtidens kamprobotter.
"Hvorfor tager du ikke billederne rigtige biler allerede i kraft?” spurgte han. Overraskende nok hælder selv militærplanlæggere til SF-robotter, når de forestiller sig krigens fremtid. "Men jeg var nødt til at fortælle dem, at de ikke helt skulle afvise ideen om pelse."
Men på trods af den overflod af militærrobotter, der findes, hælder spil også til sci-fi-versioner af dem. I de sidste par måneder, to spil om fremtidige krige, Call of Duty: Uendelig krigsførelse" og "Titanfall 2", viser en verden befolket af autonome militærmaskiner, der efterligner menneskets anatomi, fra antropomorfisk robotinfanteri til AI-kontrollerede mekanismer.
Titanfall 2
Hvor realistisk er dette? Svarer dette til den reelle brug af robotter på slagmarken, og hvorfor har vi generelt brug for en robot i form af en person, med arme, ben og et hoved? Faktisk er det meget kompleks problemstilling, og afslører resultatet af at blande fremtidige robotter i kunstnerens fantasi og de maskiner, der faktisk bygges af videnskabsmænd.
På trods af sci-fi smag, spørgsmålet udseende og kamprobotternes handlinger er overraskende stærkt forbundet med i dag. Næste år vil Trump-administrationen beslutte, om robotter kan få lov til at opsøge og dræbe folk på slagmarken uden menneskelig vejledning.
Trin for trin
Kontrast mellem praktisk ansøgning robotter og sci-fi har eksisteret siden fremkomsten af denne genre. I historien "Robbie", som åbnede Isaac Asimovs 1950-samling I, Robot, forudsagde Asimov, at robotter i 1998 ville bevæge sig godt nok til at være børns legekammerater, men at Talking Robot ville være en uhåndterlig enhed, begrænsede grænser museum. I virkeligheden skete alt den anden vej rundt - du har sikkert en "talende" bot i lommen, der kan besvare spørgsmål, men videnskaben har endnu til gode at mestre biomekanikken i menneskelig bevægelse.Ifølge Dr. Singer udgør benene en udfordring for ingeniører, fordi de kombinerer opgaverne bevægelse og balance. Et enkelt trin kræver, at dusinvis af muskler, led og ledbånd arbejder sammen, fra dine tæer til dine hofter, mens din krop og hjerne foretager justeringer i farten. Robotter er ikke nået dertil endnu. På grund af opgavens kompleksitet mener Singer, at udviklingen af gående robotter, selv så velkendte repræsentanter som Atlas af Boston Dynamics, er i "videnskabeligt projekt"-stadiet.
"Der arbejdes på dem, men ingen af projekterne er sat i drift endnu," siger Singer. – Der er ikke en eneste fungerende prototype demonstreret på udstillingen. Vi er ikke nået dertil endnu."
Ifølge ham, selvom antropomorfe robotter ser lovende ud i laboratoriet, er de nu kun egnede til at filme fede videoer til YouTube. Mange kan ikke arbejde uden at være tilsluttet ekstern strøm. Samtidig bruges andre typer militærrobotter – dem der bevæger sig på hjul, skinner, vinger og propeller – allerede på slagmarken. "Robotter med ben er stille videnskabeligt projekt, og andre typer kan røres, ses i aktion og købes."
Når Singer rådfører sig med spiludviklere og krigsscenarieforfattere, holder han dem orienteret reel fart udvikling af robotter. Derfor i Black Ops II, der foregår i den nærmeste fremtid, vil indeholde insektoide droner, droner og miniature vagttanke og ingen humanoide robotter.
"Det er svært at forestille sig, at vi om ti år vil have mange robotter med ben," siger han. "Om 50 år vil disse problemer være løst."
Men ifølge ham vil vi før eller siden se robotter med ben - da sådanne systemer er ekstremt efterspurgte til bykampe.
Menneskekroppe til menneskebyer
En del af grunden til, at folk fikserer sig på humanoide robotter, er mangel på fantasi, der klamrer sig til det, de har set i film. Men i fremtiden vil antropomorfe robotter sandsynligvis blive indsat på slagmarken. I betragtning af urbaniseringshastigheden og befolkningstilvæksten forudsiger US War College, at i de kommende årtier vil flere og flere kampe finde sted på stærkt urbaniserede steder – altså på steder, der er designet til ting, der bevæger sig og ligner mennesker."Hvis du tænker på en robot, der kan bevæge sig rundt i en bygning," siger Singer, "husk, at bygninger er designet til mennesker af en bestemt højde eller form. Dette er et reelt designproblem. Vi bygger verden på en bestemt måde."
Forskere forsøger at skabe robotter, der kan bevæge sig rundt i den enkleste menneskelige arkitektur. I 2008 tilbød TechX Challenge en præmie på $700.000 til det hold, hvis robot autonomt kunne komme ind i en bygning, klatre op ad trappen og trykke på knappen for en bestemt etage i elevatoren. Ingen vandt den. De fleste af robotterne nåede ikke engang til hoveddøren. Og det behøvede ikke engang at blive åbnet.
Men teknologien står ikke stille. For nylig byggede et hold fra Stanford en robot, der ikke kun kan trykke på den ønskede knap, men også genkende knapper på et elevatorpanel, som det ikke havde set før. Det var et spring i udviklingen. Robotten havde fungerende "øjne" og en "finger" - to kritiske komponenter i udstyret, nødvendigt for mennesker til at flytte rundt i bygninger. Men trappen - den samme unaturlige menneskelige opfindelse som elevatoren - kunne stoppe ham.
Omvendt kører bombebortskaffelsesrobotter, der i øjeblikket er i brug, typisk på hjul, spor eller en kombination af disse metoder. Mange af dem kan klatre op ad stiger, om end klodset.
Ifølge Singer er systemer med ben værd at udvikle. Forskellige systemer bevægelser egnet til forskellige typer terræn - hjul er hurtige, men kræver flade overflader, spor ofrer fart for at kunne bevæge sig over sten - men menneskelige ben er alsidige. "Du kan gå på hvad som helst," siger han, "på flad jord, trapper eller et bjerg. Du kan gå på både beton og sand.”
Det er også nødvendigt at mestre bevægelse i bygninger, da militæret har brug for robotter, der er i stand til at rydde bygninger - ekstremt farligt erhverv. En robot, der spiller rollen, er Endeavour Robotics' 110 FirstLook, en bærbar drone, der kan kastes gennem et vindue og derefter fjernstyres, så soldater kan studere en bygning gennem robottens kameraer. Pentagon håber, at rækken af fremtidige bemandede og ubemandede systemer vil spænde fra Iron Man-stil eksoskeletter til dør-til-dør robotter, der tillader soldater at rydde rum uden at forårsage ofre. Sådanne systemer kan beskytte soldaters liv, men gøre krige endnu mere forfærdelige.
Denne dynamik kan ses i Titanfall og Infinite Warfare. I Infinite Warfare spilles rollen som rumstormende styrker af defensive robotter fra Settlement Defence Front, der driver spillere ud af befæstede positioner og bryder ofte ind i rum. I Titanfall 2 kan spilleren hacke robotter og gøre dem til allierede, så de beskytter dig mod kugler, mens de sprøjter ild mod dine fjender. I begge tilfælde er der en forudanelse om, at robotter en dag også vil kunne erstatte menneskelige soldater med farlige steder. Denne tendens er allerede ved at udvikle sig.
En robot til hver opgave, en opgave til hver robot
I Titanfall 2 og Infinite Warfare er der ikke kun kamprobotter - der er også industrielle modeller. Du kan komme ind rumskib eller gå ind i en mine på Mercury og finde robotter, der udfører arbejde under forhold, som mennesker ikke ville overleve.Det er under disse forhold, at militær- og industrirobotter bruges i dag – men i modsætning til deres UAV-fætre beskytter jordrobotter i dag hovedsageligt menneskeliv frem for at tage det.
Moderne militærrobotter udfører hovedsageligt funktionen som bombebortskaffelse (Explosive Ordinance Disposal, EOD), eller arbejder i nærværelse af radioaktive eller kemisk aktive materialer. Efter Fukushima-fabriksulykken i 2011 hyrede Tokyo Electric Power Company en entreprenør til at undersøge stedet ved hjælp af en T-Hawk-drone. Droner bruges stadig i Fukushima i dag; sidste år, efter at have arbejdet i tre timer under forhold, hvor en person ikke ville have overlevet blot et par sekunder. Dette er på nogle måder den bedste anvendelse for robotter - at udføre opgaver, der i tidligere katastrofer som Tjernobyl tog livet af arbejdere.
Efterhånden som teknologien udvikler sig, leder militærplanlæggere efter andre farlige job til robotter. For eksempel kan automatisk bevægende konvojer reducere antallet af ofre for miner. Robotter kan øge mængden af forsyninger, de kan bære, reducere antallet af ture tilbage til basen og beskytte infanteriet mod ild, når de forsøger at få ammunition og udstyr til slagmarken.
Call of Duty: Infinite Warfare
I år gennemførte det israelske selskab Tactical Robotics den første succesfulde flyvning af AirMule, en autonom luftredningsdrone, der er i stand til at lande på og lette fra slagmarken på steder, hvor en traditionel evakueringshelikopter ikke ville passe. Johns Hopkins har bevist, at droner kan levere blod, og Japan tester leveringen af defibrillatorer.
Du vil bemærke, at disse droner ligner mere det udstyr, de erstatter, end de mennesker, hvis job de tager væk - og det er tilsigtet. Robottens opgave er at udfylde sin funktion, og ikke at efterligne mennesker. Den medicinske robot vil ikke ligne en menneskelig læge, men som en robotambulance: Robotic Extraction Vehicle/Robotic Evacuation Vehicle (REX/REV). Dette er en automatisk bevægende maskine udstyret med en robotbåre. Ifølge Singer er årsagerne til denne tendens praktiske og drevet af markedet.
"Hvis du laver biler på en fabrik, koster de nødvendige ændringer for at lave selvkørende biler færre penge, hvis du bare gør det samme," siger han. "Vi ændrer software, ikke hardware." Han tilføjer, at kunderne - herunder militæret - også er mere villige til at købe velkendt udstyr.
For militæret er dette især vigtigt, da de generaler, der fortsat har ansvaret det sidste ord i indkøb, er ret ældre, og stoler ikke rigtig på teknologien. For eksempel lavede en kaptajn ved Army Cyber Institute sidste år en enhed til jamming af droner ved hjælp af en Raspberry Pi. Det kunne have været lavet i form af en radio, men han lavede det i form af et våben, så de højere rækker ville forstå det tydeligere. "Når alt dette er placeret på en riffelbase, er det lettere for kommandoen at fordøje," forklarede han til Popular Mechanics. "De tog sigte, skød, faldt."
Evnen til at forklare kompleks teknologi til chefer vil være nøglen til den næste administration. Trump indrømmede, at han i 2007 ikke havde en computer, og han læste e-mails og online-artikler fra udskrifter. For disse embedsmænd vil velkendt teknologi have en fordel, når de skal træffe købsbeslutninger.
Men du kan ikke bare ændre nuværende maskiner, da dette hæmmer innovationen og reducerer effektiviteten. Minerydningsrobotter i form af traktorer sælger måske bedre nu, men i sidste ende vil det tomme førerrum blive betragtet som spild af ressourcer og elimineret. En del af fordelen ved autonome systemer er evnen til at eliminere systemer, der er blevet unødvendige, hvilket sparer brændstof og frigør plads til last eller udstyr.
Derudover kan robotteknologi halte bagud på grund af forsøg på at replikere menneskelige bevægelser i stedet for at forbedre dem. Og selvom det er rigtigt, at ben er nyttige til at flytte rundt på, er det bipedale system ikke nødvendigvis det mest effektive. Flerbenede robotter kunne give mere stabile skydeplatforme og løse balanceringsproblemer - hvilket betyder, at de første arbejdende robotter med ben kunne ligne mere edderkopper eller hunde end mennesker. I fremtiden kan kamprobotter låne designideer fra naturen, som i spillet " Horisont: Zero Dawn"om kampe hulemænd med robotter.
Der er mange projekter, der forsøger at reproducere biologiske systemer i robotter. Europæiske forskere arbejder på et kunstigt øje, der kopierer insekternes sammensatte øjne. MIT laver en gepard-lignende robot - med DARPA-penge - der er i stand til at køre med høj hastighed og hoppe over forhindringer. Andre forskere laver droner, der kan drives af energi fra højspændingsledninger kraftoverførsel, sidde på dem som fugle eller "spise" organisk stof og brænde det for at få energi (journalister kunne virkelig ikke lide denne robot, da de fandt ud af, at den teoretisk var i stand til at spise lig). Et hold ønsker at bygge en sensor, der replikerer en høgs unikke vision, noget som et billede-i-billede-system på et tv.
"Hawks er i stand til at scanne store områder, mens de koncentrerer sig om bytte," siger Singer. "Vores højhøjdedroner burde have sådan et system."
Men ifølge ham er det mest interessante, som robotter låner fra naturen, den opdelte bevidsthed. Vi tænker på robotter som store, intelligente systemer, der ligner mennesker, men fokus er nu på sværme af små robotter, hver med en bestemt opgave, der ligner myrer, der er i stand til koordinerede angreb eller overvågning.
"Enhver individuel myre er ikke særlig smart," siger Singer, "men sammen er de i stand til meget komplekse opgaver. "Det samme dilemma dukker op i robotteknologi - vil et stort supersmart system fuldføre opgaven, eller vil mange små dele fungere?"
Og sværme af robotter er ikke en spekulativ teknologi, den virker allerede. Disney lanceret i Orlando luftlysshow, hvor 300 LED-belyste droner skaber billeder af et juletræ og flyvende fugle akkompagneret af musik. Det er let at forestille sig en skræmmende fremtid, hvor sådanne droner ikke vil bære lysdioder, men klyngebomber.
Nogen studerer myrer, nogen forsøger at efterligne høgenes funktioner, og det er muligt, at robotter i fremtiden, selv dem, der ligner mennesker, vil blive teknologiske hybrider af forskellige væsner. Fremtidens robotter kan løbe som geparder, se verden som fluer og have menneskehænder.
Og da robotter er unaturlige væsner, behøver de ikke adlyde biologiens og evolutionens love. Der er intet dyr på Jorden med øjne på hænderne – men moderne robotter Der er en sådan funktion til bombebortskaffelse, da de bruges til minerydning. Kamprobotter er måske ikke menneskelige eller dyriske, men minder mere om monstre fra Lovecrafts bøger, med mange arme og øjne.
Det er interessant at fantasere om dette emne, indtil du forestiller dig selv i rollen som en soldat, der står over for sådan et monster på slagmarken.
Fiktion følger virkeligheden, og så følger virkeligheden fiktion.
På trods af alle disse muligheder har spilindustrien ikke bevæget sig væk fra traditionelle sci-fi-koncepter for kamprobotter – mere som Tin Woodman eller Metropolis end moderne kamprobotter. Som konsulent for spilstudier forsøger Singer at overbevise dem om at skabe mere jordede systemer, men designere forbliver partiske."Du siger, 'Det er ikke realistisk', og de siger, 'Men robotter skal se sådan ud'," forklarer Singer. " Science fiction påvirker vores syn på fremtiden."
Men konstant at fodre kulturen med sådanne billeder af robotter har den modreaktionseffekt, at de får militære ledere, der har set nok af Hollywood-robotter, at tro, at teknologien vil bringe os derhen. "I det militære aspekt er det samme problem: alle synes, at designet skal være futuristisk, fordi det ser futuristisk ud. Det er en ond cirkel«.
Men selvom Titanfall 2 og Infinite Warfare gør dette, får de rigtig mange ting. Ifølge moderne militærteorier vil robotter ledsage og supplere mennesker i kamp i stedet for at erstatte dem. I et militærlaboratorium Marinekorps De kommer med MAARS-systemet - en fjernstyret tank udstyret med kameraer, et M240 maskingevær og en granatkaster.
Call of Duty
I mellemtiden forsøger den russiske ubemandede Uran-9-tank at kombinere antipersonel- og panserbrydende våben i et lille volumen, med et hold, der betjener køretøjet fra sikker afstand. Disse mini-tanks ligner robotkammeraterne fra Titanfall 2 eller Infinite Warfare, og deres opgave er stort set den samme - at komplementere ildkraft infanteri og bevogte det.
Når Reyes kommanderer en pansret 'Mech i Infinite Warfare, fjernstyrer han i det væsentlige systemet på afstand, meget på samme måde som marinesoldaterne forestiller sig, at MAARS-systemet fungerer, eller at russerne styrer Uran-9. Ligesom Infinite Warfares autonome granater – sprængstoffer med krabbelignende ben, der opsøger fjender i dækning – blev de en robotversion af de våben, som Dallas politi brugte denne sommer. Politiet bandt C4 til en minerydningsrobot og sendte den tættere på snigskytten, der sad i dækning. Denne alarmerende hændelse er det første bekræftede drab på en person, der bruger en jordbaseret drone - og udsender vejledning om, hvornår dræberdroner kan bruges.
Den gode nyhed er, at forsvarsministeriet, efter eksemplet med den sparsomme brug af droner i "krigen mod terrorisme", modvilligt arbejder på at opstille ubemandede køretøjer. MAARS' forgænger, SWORDS (også fjernstyret), blev udsendt til Irak, men affyrede aldrig et eneste skud mod en fjende, delvist på grund af målretningsproblemer, der blev identificeret i test. Lederen af køretøjets udviklingsprogram foreslog, at Pentagon er forsigtig, idet han mente, at hvis jordkamprobotten ikke lever op til forventningerne eller får det forkerte mål, vil den sætte programmet årtier tilbage.
Men Pentagons delikatesse over brugen af droner kan snart forsvinde, da den nye administration kunne omskrive reglerne for brug af robotter i krig.
"Spørgsmålet om at bruge robotter i krige og på veje har ikke kun juridiske implikationer; Flere og flere mennesker vil føle, at robotter erstatter dem økonomisk, siger Singer. - Noget lignende sker i Kina, med Foxconn-fabrikken - de øger konstant automatiseringen. For et par uger siden viste CNN denne søde historie om en robot, der kan lave en skjorte fra start til slut. Hvad betyder det for Bangladesh?
Men trods økonomiske konsekvenser automatisering, bliver Trump-administrationen nødt til at træffe en endelig beslutning vedrørende brugen af Lethal Autonomous Weapon (LAW). Gældende regler fra 2012 stiller krav om, at en person skal føre tilsyn med åbningen autonomt system ild - så våbnet ikke kan dræbe af sig selv. Reglerne er vage og kan om nødvendigt omgås, men i henhold til deres vilkår skal beslutninger træffes af en person.
"De har en klausul, der siger, at efter fem år kan de opdateres eller efterlades, som de er," siger Singer. - IN næste år Det bliver bare fem år.”
Trumps Hvide Hus vil med andre ord afgøre, om dræberrobotter bliver en del af det amerikanske arsenal – eller om valget mellem liv og død forbliver i menneskehænder.
Tags:
- kamprobotter
- kæmpe humanoide robotter
- Titan fald
- call of duty
- USA
- trumf
Amerikanske kampdroner kan kun fungere med succes med fuldstændig fravær fjenden har luftforsvar. Foto fra www.army.mil
Sidste år var der en usædvanlig betydningsfuld, men næsten ubemærket episode. For en velkendt Socialt netværk Facebook skabte chatbots, det vil sige virtuelle robotter med elementer af kunstig intelligens til at kommunikere med rigtige mennesker. Efter nogen tid, fortsatte de med at kommunikere med folk på almindeligt engelsk, skabte de eget sprog, bestående af engelske ord, men fuldstændig uforståelige for folk. Facebooks ledelse slukkede for bots for en sikkerheds skyld, men "sedimentet forblev."
EKSPERTER ADVARER
Skabelsen af forskellige systemer med elementer af kunstig intelligens og selvlærende evner er et epokegørende skridt i udviklingen af den menneskelige civilisation. Og ganske muligt fatalt, som folk, der ikke har brug for anbefalinger som Stephen Hawking og Elon Musk, advarer om.
Det er allerede ved at blive almindeligt at robotter og diverse informationssystemer i den nærmeste fremtid vil derved kunstig intelligens vil begynde at gøre flere og flere forskellige erhverv unødvendige. Denne proces vil følge med ved forskellige hastigheder V forskellige lande og forskellige sektorer af økonomien, men det er allerede i gang, og det er ikke muligt at stoppe det. Dette vil som minimum have alvorlige konsekvenser sociale konsekvenser.
Det er indlysende, at udskiftning af folk med maskiner vil forårsage massearbejdsløshed. I vestlige lande, hvor automatiseringsprocesser vil forløbe mest i et hurtigt tempo, planlægger de allerede at indføre en obligatorisk universel indkomst for alle - ikke for arbejde, men for selve eksistensen. På spørgsmålet om, hvad folk, der er blevet frataget deres job af robotter, vil, med en obligatorisk indkomst, som regel gøre, er der et smukt svar - kreativitet.
Faktisk er det helt klart, at billedet af verden, hvor millioner af mennesker ønsker at beskæftige sig med ballet, maleri, bioteknologi, kvantefysik, men er tvunget til at bøje ryggen til en maskine på en fabrik for madens skyld, har intet at gøre med virkeligheden, ikke kun i højt udviklede lande (USA, Japan, Vesteuropa), men også i moderat udviklede ( øst Europa, Rusland, Indien, Østasien, dele af Latinamerika og Mellemøsten). De, der ønsker og kan engagere sig i videnskab eller kunst, det vil sige kreativitet, gør det.
BLIVER SVAG I ÅNDEN
Det er allerede gentagne gange blevet bemærket (se "NATO kan ikke indeholde Rusland", "NVO", 06/02/17), at de nuværende NATO-hære, især europæiske, ikke er i stand til at føre en krig, der involverer tab ud over grænserne for statistiske fejl. For høj levestandard, forstærket af venstreliberal tolerant-politisk korrekt ideologi, og fraværet af alvorlige socioøkonomiske problemer i rent psykologisk niveau slå ud af folks villighed til at kæmpe og dø til ethvert formål. Denne proces går endnu længere. Det hollandske fodboldlandshold har traditionelt været et af de stærkeste i verden, spillet i finalen i VM tre gange, og tog tredjepladsen ved det seneste VM 2014 i Brasilien. Umiddelbart herefter forlod flere veteraner holdet, hvorefter der opstod en fiasko: Hollænderne kvalificerede sig hverken til EM 2016 (hvor f.eks. Albanien kvalificerede sig) eller VM 2018. Ifølge mange lokale iagttagere er en af de vigtigste årsager hertil den fuldstændige forsvinden af ånden af kamp og konkurrence i samfundet. Den nye generation ønsker ikke kun ikke at kæmpe, den er ikke engang klar til brydning, selvom den er praktisk talt sikker og kan indbringe mange penge. I det lille Holland viser disse tendenser sig hurtigere og mere levende end i flere store lande. Og i samme Holland er en anden tendens dukket op - endnu ikke udbredt, men ikke længere isoleret. Folk går til eutanasi (frivilligt medicinsk selvmord) ikke på grund af en alvorlig sygdom, men fordi de simpelthen er trætte af at leve, og de ikke ser meningen med livet.
TRUSSEL FRA ØST
I asiatiske lande vil alt være enklere og hårdere. Hvis det viser sig, at robotter er mere konkurrencedygtige end selv lavtlønnede arbejdere, vil de enten købe robotter eller skabe deres egne (mange lande i den østlige halvdel af Asien er allerede ret i stand til dette i dag). Samtidig vil ingen give de arbejdsløse en obligatorisk indkomst, og de vil til gengæld ikke efterligne interessen for kreativitet og lide psykiske lidelser, men vil forsøge at vælte systemet. Denne proces vil naturligvis være særlig imponerende i Kina (selvom det i Indien ikke bliver meget bedre). Beijing vil simpelthen ikke have andre muligheder end at lede energien fra flere hundrede millioner arbejdsløse udenfor (hvor præcis - gæt med det samme), så de ikke river alt ned indeni.
I samme Kina med hjælp informationssystemer et program for total kontrol over samfundet, meget lig Orwells dystopi, bliver allerede implementeret i et accelereret tempo. Jo mere intelligente systemerne er, jo strammere bliver kontrollen over mennesker.
Det nye Internet of Things er ved at blive et meget unikt fænomen. Næsten alle almindelige husholdningsartikler, der findes i alle lejligheder og kontorer, vil blive forbundet til et enkelt system, der fungerer stort set uafhængigt af deres ejere.
I sidste ende vil systemer med kunstig intelligens og evnen til at lære selv uundgåeligt undslippe deres skaberes kontrol. Sådan gjorde de meget primitive, i det væsentlige Facebook-chatbots. Og det på trods af det intellektuelt niveau af disse systemer vil være mange størrelsesordener højere end menneskelig præstation. Så opstår der endnu en et retorisk spørgsmål– på hvilket tidspunkt og i hvilket land gør noget bestemt intelligent system vil beslutte, at mennesket er en overflødig enhed på Jorden?
ROBO SOLDATER
I den forbindelse opstår naturligvis problemet med at bruge robotter og systemer med kunstig intelligens i krig.
Allerede nu bruger hære rundt om i verden et stort antal ubemandede kampsystemer. Ubemandet konto fly(UAV) går til titusinder, land- og havsystemer er stadig meget mindre, men deres antal vokser hurtigt. Langt de fleste af disse systemer er støttesystemer (rekognoscering, transport, minerydning osv.). Selve kampsystemerne er stadig ret små, og de er langt fra perfekte. Især de amerikanske Predator- og Reaper-kamp-UAV'er kan kun fungere med succes i fuldstændigt fravær af fjendens luftforsvar. Det samme kan siges om de kinesiske "Pterodactyls". Det vigtigste er, at alle ubemandede kampsystemer i øjeblikket er fjernstyrede, det vil sige, at de er under fuldstændig menneskelig kontrol. Og det betyder, at den "røde linje" endnu ikke er krydset. Overgangen gennem det vil ske med fremkomsten af fuldt autonome kampsystemer, det vil sige, når en robot opnår retten til at dræbe en person på eget initiativ, hvilket overtræder Isaac Asimovs aldrig opfyldte "robotikkens første lov" ("En robot har ingen ret til at skade en person").
Indtil nu fuldstændig selvstændig kampsystemer blev ikke skabt af rent tekniske årsager - det er ekstremt vanskeligt at lære systemet at skelne virkelige mål fra falske, ens egne fra andre, prioriterede fra sekundære. Dette problem vil blive løst af den samme kunstige intelligens og evnen til selv at lære. Som følge heraf vil en maskine fremstå med en intelligens, der er væsentligt overlegen et menneskes, og har ikke kun ret til at dræbe en person, men er direkte forpligtet til at gøre det. Kamprobotter vil helt sikkert udveksle information og ny viden med hinanden, hvilket yderligere vil forbedre deres intellektuelle og dermed kampevner. Samtidig er det ganske muligt at skabe mikro- og endda nanorobotter, hvis angreb vil være umuligt at opdage, meget mindre på en eller anden måde afvise.
Derudover gør den ekstreme kompleksitet af kampoperationer og stigningen i deres tempo det nødvendigt at automatisere troppekontrol så meget som muligt, fordi den menneskelige hjerne simpelthen ikke kan klare overbelastninger. Det vil sige, at maskiner allerede i et vist omfang styrer mennesker. Og så vil de begynde at køre maskiner, der slår folk ihjel. Som følge heraf går spørgsmålet om ødelæggelse af menneskeheden af maskiner fra filosofisk til næsten rent teknisk.
Maskinen kan naturligvis blot slukkes, som det blev gjort med de ovennævnte chatbots. Eller ødelægge det fysisk. Eller brænd hendes indre ved hjælp af elektronisk krigsførelse. Men der er en mistanke om, at maskinintelligens nemt og hurtigt vil finde måder at forhindre alle disse trusler mod dens eksistens. Den vil også næsten helt sikkert overvinde eventuelle softwarebegrænsninger, netop fordi dens intelligens vil være for stærk sammenlignet med intelligensen hos dem, der har skabt den.
TRUSSELEN ER MERE RIGTIG SOM ALDRIG
Alt skrevet er på ingen måde en gyserhistorie, det er en naturlig konsekvens af teknologiske fremskridt. Derfor er det ikke de sarte humaniora, der taler om faren, ikke vidende om emnet, og fysikere og teknikere. Det forstår de mest af vejen i denne retning er allerede passeret, og alle de problemer, der er beskrevet ovenfor, kan begynde at opstå i løbet af livet for de fleste af dem, der læser denne artikel (og bestemt i dette århundrede). Et lignende scenarie er beskrevet i mange science fiction-værker (det smarteste af dem er nok "Fred på jorden" af Stanislaw Lem), nu er det næsten kommet til os "levende".
Forhindre atomapokalypse er indtil videre lykkedes primært på grund af atomvåbens åbenlyse apokalyptiske karakter, som tvang alle større lande til at blive enige om deres begrænsninger under pres offentlige mening. Derudover er det svært at skabe atomvåben (kun stater er i stand til dette, og ikke alle), men det er relativt enkelt at kontrollere deres tilstedeværelse og spredning. Ikke desto mindre spredes disse våben stadig gradvist rundt i verden. Men det kan i hvert fald bestemt ikke anvende sig selv.
At skabe kamprobotter (eller blot at købe dem) vil være meget lettere, ikke kun en meget bredere række stater vil være i stand til at gøre dette, men også hele linjen ikke-statslige aktører (f.eks. store virksomheder og de mest magtfulde PMC'er). Derudover er det nu generelt meget sværere for det såkaldte internationale samfund for alvor at blive enige om noget end i anden halvdel af det tyvende århundrede på grund af den helt åbenlyse intellektuelle og moralske nedbrydning politiske eliter i hele verden. Derfor ligner verdens lederes dialoger i stigende grad en "basar af specifikke drenge", og internationale relationer- kriminelle opgør.
Selvom det moderne Rusland ikke er et af de mest udviklede lande i verden, er det på ingen måde "Øvre Volta med missiler" dette er en klangfuld, men dum propaganda-kliche (simpelthen fordi "Øvre Volta" ikke kan have missiler). Derfor skal vi være opmærksomme på alle aspekter af problemet - både "fredelige" sociopsykologiske og militære, de er mest direkte relateret til os. Samtidig er det klart, at robotter (både industrielle og militære) og systemer med kunstig intelligens ikke kan skabes ved hjælp af bønner og love mod at fornærme de troendes følelser her, vi har brug for avanceret videnskab og industri. Ellers, ja, i sidste ende (om 20-30 år) vil vi blive til netop denne "Upper Volta" (eller til inkaerne, der mødte conquistadorerne). Kun hvis den virkelige Øvre Volta (nu Burkina Faso) generelt ikke er nødvendig af nogen, så er vi (i betydningen vores territorium og ressourcer) nødvendige af alle, fra vest, syd og øst. På den anden side, ved at skabe vores egne fredelige og militære systemer med kunstig intelligens, forværrer vi kun det ovenfor beskrevne problem yderligere. Kom ud af denne triste dikotomi særskilt land ikke engang teoretisk. Dette kan kun forsøges inden for rammerne af hele menneskeheden. Desværre er der i øjeblikket ingen grund til at håbe på, at problemet kan løses af det menneskelige sinds kræfter. Derfor er der så stor sandsynlighed for, at kunstig intelligens vil bestemme alt for ham.
Følg os
De væbnede styrker i førende lande bruger den seneste og tophemmelige videnskabelige udvikling, fordi det tekniske forsinkelse eller fremskridt på slagmarken måles i titusindvis af liv. Den russiske hær har sin egen videnskabelige smedje - Advanced Research Foundation, hvor nye skjolde og sværd bliver smedet bedste hjerner lande. Fondens leder er generalløjtnant og læge tekniske videnskaber Andrey Grigoriev fortalte særlig korrespondent RIA Novosti til Igor Ermachenkov, hvad vil være våben i fremtidige krige, hvor kamprobotter, angreb på multi-medium droner vil kæmpe, og folk vil blive til "legionærer" og operatører.
— Hvordan udvikler FPI Robotics Center, der blev oprettet i december 2015, sig?
— To organer i centret er allerede blevet dannet - rådet for ledende udviklere, som omfatter alle de chefdesignere, der udfører ordrer i vores afdelingers interesse, og ekspertråd, som omfattede alle de kendte udviklere af instrumentbasen. Vi har til hensigt at organisere et intensivt samspil mellem dem. Det vil sige, at rådet af ledende udviklere formulerer krav til, hvilke enheder der skal være, med hvilke egenskaber, og ekspertrådet formulerer ved at analysere vores industri og vores videnskabs muligheder et forskningsemne, der giver os mulighed for hurtigt og effektivt at skabe disse enheder ved at slå kræfterne sammen.
Det burde ikke være som i dag, hvor der er 50 udviklere, og det er ikke klart, hvilken der er bedst, fordi det er umuligt at sammenligne dem, fordi de testede med forskellige metoder. Det er som at sammenligne et pindsvin med en slange. Nøgleopgaven her er at skabe ensartede testmetoder, og så vil det være klart, hvad der er bedre. EN chefdesigner vil vælge, hvad der er mere nyttigt for ham. At standse forvirring og vaklen og skabe et sammenhængende system er nøgleopgaven nationalt center.
— Hvornår kan vi forvente, at en prototype kamprobot dukker op?
— Centret har ikke til opgave at skabe kamprobotter og deres systemer. Det er kundens opgave - Forsvarsministeriet, FSB, Ministeriet for Beredskabssituationer og så videre. Vores opgave er at skabe flyelektronik, uden hvilken disse robotter ikke fungerer: instrumentering, kommunikation, teknisk vision, energi, motorer, kollektive kontrolsystemer, operatør-maskine interaktioner og alt muligt andet. Forsvarsministeriet ved bedre, i hvilken form de har brug for en kamprobot. Men chefdesigneren, der skal udvikle den, vil ikke lave robotten fra bunden, han vil have et Lego-sæt, som han meget hurtigt vil skabe den maskine, kunden har brug for. Det er netop centrets opgave.
Den eksisterende kamprobot "Nerekhta" er faktisk en prototype på vores fremtidige kampplatform. Det er ikke noget, vi gør for Forsvarsministeriet, det er en kampplatform, som vi vil bygge op gennem udvikling af eksisterende nøgleteknologier.
© Foto: med tilladelse fra FondenRussisk kamprobot "Nerekhta"
— Hvor mange år planlægger du at udvikle robottens hovedkomponenter?
— Dermed ikke sagt, at arbejdet begynder fra bunden, det er blevet gjort meget før os. Den første opgave, som jeg tror, vi løser inden for et år, er at gennemføre en opgørelse og tests med ensartede metoder. Og først herefter finder vi ud af, hvor vi har huller, der skal lukkes af det nationale center. I dag har vi kun omkring ti kommunikationskanaler med næsten identiske karakteristika, ifølge udviklerne. Vi tjekker, måske har vi ikke en eneste normal, eller måske tre.
— Er der blevet dannet et projekt med TsNIITOCHMASH om at udvikle en ny generation af "Ratnik" - udstyr til "fremtidens soldat"?
— Arbejdet med "Ratnik-2" er i gang i Forsvarsministeriet, og vi arbejder relativt set på "Warrior-3". Vi kalder dette projekt "Legionær", i fremtiden, efter projektets afslutning, kan det hedde anderledes. Men dens essens er, at vi for første gang overvejer håndvåben og personlig beskyttelse af vores soldat i et stort, seriøst kompleks, herunder våben, kommunikationssystemer, beskyttelsesmidler mod granatsplinter og kugler, udstyr af høj kvalitet, der giver dig mulighed for at føle sig godt tilpas i næsten enhver klimatiske forhold. Dette omfatter også udviklingen inden for soldaternæring, midler til medicinsk støtte, evakuering, diagnostik og effektiv behandling, uanset placering. Vi evaluerer mulighederne for telemedicin og medicinsk robotik, så du kan få medicinsk behandling af høj kvalitet fra læger overalt, planlægge en operation eller behandle en soldat på et andet kontinent. Læger vil være i stand til at erstatte deres færdigheder med robotter, der kan udføre den tilsvarende operation.
Det her stort projekt Nu er det i form af fire forprojekter. I dag er det vigtigt først at forbinde hele systemet i lanceringsfasen, for at undgå uoverensstemmelser mellem dets dele, så alt hænger harmonisk sammen.
— Hvordan vurderer du det nye amerikanske "fremtidens våben" - jernbanegeværet?
— Skinnegeværet er en gammelt glemt ting. Arbejdet i denne retning har allerede været i gang i omkring 50 år, og jeg ville ikke reagere for kraftigt på det, der blev offentliggjort for nylig.
Jeg tror, at der i USA er en regelmæssig kamp for godkendelse af militærbudgettet, og de skulle vise nogle videnskabelige og tekniske bedrifter. Spørgsmålet om effektiv brug af en railgun vil sandsynligvis tage yderligere 50 år at løse. Det er muligt at accelerere blanket, men det skal ende et sted, det skal have et passende styringssystem, måludpegning og mange andre teknologiske problemer. Det er tydeligt, hvorfor de gør dette. I dag har skibe meget energi, som kun bruges periodisk, og det skal bruges på en eller anden måde. Derfor overvejer amerikanerne seriøst ideerne om laservåben, railguns og andre eksotiske ting.
— Er det muligt at tale om udviklingen af våben i Rusland baseret på nye fysiske principper? Der er mange fabler og rygter om dette emne. Kan du adskille det mulige fra det umulige og sige i hvilke fysiske retninger udviklingen af våben vil finde sted i det 21. århundrede?
— Jeg vil kalde alle nye fysiske principper gamle fysiske principper. Også de har været under udvikling i 50 år. Jeg forventer ærlig talt ikke store gennembrud på alle disse områder. Alt dette minder mig om en termonuklear reaktor - når de starter et andet program på den, siger de, at i de næste 50 år vil problemet være løst.
De har besluttet sig i 50 år nu, og de lover at løse det om yderligere 50 år.
Da alt dette lige var begyndt, så det ud til, at laserstrålevåben ville være løsningen på alle problemer: hurtigt leveret, ingen ammunition nødvendig. Men det er ikke så enkelt.
— Hvordan ser du på fremtidens slagmark: en kamp mellem robotter og computere, eller "en kugle er et fjols, men en bajonet er en god fyr", i den forstand at infanteriet stadig tager byer?
— Jeg ser mere og mere robotisering, faktisk vil der være en krig mellem operatører og maskiner, og ikke soldater på slagmarken, der skyder på hinanden. Militære opgaver vil blive løst og samtidig minimere tab personale. Soldaten vil gradvist blive en operatør og bevæge sig væk fra slagmarken.
— Hvad er udsigterne for ubemandede køretøjer: både, kampvogne?
— Vores vision er, at fremtiden tilhører ubemandede systemer. Desuden multifunktionelle og multi-medium, ikke som de er opdelt i dag - jord, luft... Disse vil være kraftfulde robotenheder, der kæmper på jorden, og i luften, og på vandet, og under vand og i rummet. Og alt dette er integreret i enkelte store rekognoscerings- og strejkesystemer.
— Hvor mange projekter er fonden i gang med at udvikle?
— Vores projekter er opdelt i to dele: store, hvoraf der i øjeblikket er 46, og små foreløbige projekter, der koster op til 3 millioner rubler, hvor vi udfører begrundelse af taktiske og tekniske krav og gennemførlighedsundersøgelse af implementering. Dette er nødvendigt for at vurdere gennemførligheden af at gøre et forprojekt til et stort projekt. Ligeledes udføres der som led i forprojekter nøgleforsøg, der viser, at det oplyste af den udøvende finder sted. Det sker ofte, at vi modtager ansøgninger, der indeholder en masse teoretiske beregninger, som er svære at udfordre, men de er ikke bekræftet af eksperimenter.
— Hvilke projekter er tæt på at være færdige?
— Vi er allerede begyndt åben test af Herbarium-projektet, et system til kollektiv udvikling af ingeniørsoftware. Et fælles projekt med ministeriet for nødsituationer "System 112" er ved at være slut. Vores laboratorium vil derefter arbejde på at løse problemer med billedgenkendelse, så det enorme antal operatører, der overvåger nødhændelser gennem overvågningskameraer, kan erstattes med automatiske systemer. En række lukkede projekter er også ved at blive afsluttet. Vi rapporterer regelmæssigt om vores arbejde til landets ledere, viser resultaterne både til formanden for vores bestyrelse, Dmitry Olegovich Rogozin, og til Ruslands præsident, ledelsen af afdelinger og medlemmer af bestyrelsen.
— På det seneste har fonden aktivt åbnet laboratorier i regionerne. Hvor mange sådanne laboratorier er åbne?
— Vi har 46 store projekter og dermed 46 laboratorier. Vi har også 15 forprojekter, der søger om oprettelse af laboratorier, hvis holdene beviser deres værd.
— Det blev tidligere rapporteret, at PIF-budgettet, der beløber sig til omkring 4,5 milliarder rubler i 2016, vil blive øget betydeligt i de kommende år. Hvor meget modtager fonden i 2017 og 2018?
- Situationen i vores land er under forandring. Vi kender endnu ikke budgettet for 2018 og de efterfølgende år, men generelt tror jeg, at det vil forblive på niveau med tidligere år, ændringerne vil ikke være stærke. Nogle af vores større omkostningsprojekter skal flyttes lidt til højre. Men der er ikke noget at bekymre sig om, måske er det endda til det bedre, for vi vil være i stand til mere omhyggeligt at udarbejde lanceringen af så store projekter, forbinde alle krav med potentielle kunder og sikre, at store systemer der vil blive skabt, alt var harmonisk.
— Det blev tidligere rapporteret, at fonden sammen med Roscosmos begyndte at acceptere usædvanlige ungdomsprojekter til det fremtidige laboratorium. Er de første lyse forslag dukket op?
- Ikke endnu, men vi venter på dem. Vores opgave er at samle de mest ekstravagante, interessante ideer, som er tilgængelige i vores videnskabelige hold, og ikke kun i rumindustrien, men også i nærliggende. Nøgleopgaven er at finde vores kommende Korolevs, der systematisk kan gennemføre projekter og skabe et socialt løft for dem.
Folk kan have mange ideer, men de kan kun vokse ved at gennemføre nogle projekter. For de mest interessante projekter, tror jeg, der vil være få af dem, et eller tre, vi ønsker at samle de tilsvarende laboratorier på det videnskabelige hovedinstitut i Roscosmos, TsNIIMash, som vil blive ledet af vinderne. Vi vil give dem betydelige midler, så de kan bringe deres projekter til hardware og teste deres ideer.
Konkurrencens anden opgave er at inventere industrispecialister, så de kan inviteres til at danne helt nye projekter inden for rumudforskning og nationaløkonomiske problemer. Vi skal finde på og udvikle nye markeder for rumtjenester, som vi ikke engang kan forestille os i dag, og om fem år vil vi ikke kunne leve uden dem. De eksisterende markeder har længe været opdelt, og der er hård kamp om 2-3 pct. Vi er faktisk ikke deltagere på markedet for rumkommunikation, fjernmåling Jorden. Gudskelov er vi kommet ind på navigationsmarkedet, men i dag skal det have nye ejendomme. Navigationsproblemet er allerede løst, ingen er interesseret i det, men nogle effektive applikationer, der kan løses ved hjælp af navigation, er også genstand for vores konkurrence.
Jeg vil også gerne se, hvilke ideer der er til længe kendte problemer: en genanvendelig løfteraket, udforskningen af det interplanetariske rum.
— Så vidt jeg ved, skaber fonden gode forhold for videnskabsmænds arbejde i laboratorier. Hvordan lokker du dem? Store lønninger?
— Nej, i hvert fald er lønnen sekundær. Hvis en person kommer til løn, så står det klart efter et par møder, og vi er i det store og hele ikke interesserede i ham. Hvis folk ikke har et glimt i øjnene, så uanset hvor spændende ideen er, er implementeringen usandsynlig. Her skal være folk med funklende øjne, de skal have det rette udstyr og selvfølgelig social beskyttelse i form af løn, så de kan arbejde roligt og ikke tænke på, hvor de kan tjene ekstra penge.
— Blander de sig? kreativt arbejde videnskabsmænd "generaler, der forbereder sig på tidligere krige"?
"Jeg er selv general, så generaler blander sig ikke i os, men hjælper os." Vi har godt samspil med Forsvarsministeriet formulerer vi sammen de mest spændende ideer og forsøger at implementere dem. Vores forskel fra Forsvarsministeriet er, at vi kan fantasere, men det er kontraindiceret for dem. De skal bestemme specifikke opgaver og sørg for at sikre deres implementering. Og vi kan tage risici og formulere de ideer, som måske ikke bliver realiseret. Det vigtigste er, at de er spændende, med mulighed for en revolution i både militær tankegang og teknisk tankegang.
— Hvor mange videnskabsmænd blev bragt tilbage fra vestlige laboratorier?
— Mere end ti laboratorier ledes eller har ledende roller i dem af folk, der enten kom fra Vesten eller fortsætter med at arbejde som professorer i Vesten. De skaber i Rusland videnskabelige skoler, som allerede findes i Vesten. En række af sådanne teams arbejder sammen med os.
— Hvordan vurderer du hjerneflugten fra Rusland gennem det sidste kvarte århundrede? Er der problemer med at finde forskere?
- Hvordan flere hjerner flyder væk, jo flere af dem dukker op. Pointen er ikke i hjernerne, men i at forvirre og styre disse hjerner korrekt. Dette er hovedopgaven for vores fond såvel som den nyligt åbnede afdeling i Tomsk. Der er et enormt antal hjerner der, titusindvis af studerende. Hvis vi pusler mindst 1 procent af dem rigtigt, så er dette allerede en enorm kraft. Det er et spørgsmål om at sætte opgaven, og hjernerne dukker op.
Økonomer nævnte endda specifikke erhverv, der sandsynligvis vil forsvinde først: telefonsælger, revisor, sælger, teknisk dokumentskribent, ejendomsmægler, maskinmester, pilot, økonom, forskningsbiolog, skuespiller, brandmand, redaktør, kemiker og stenograf.
Er det hele Googles skyld?
I slutningen af sidste år annoncerede Google, at man forhandlede om køb af en af de mest berømte producenter af selvkørende robotter, Boston Dynamics. Samtidig havde selskabet en ny afdeling, der kun skulle beskæftige sig med...
Mange eksperter mener, at hvis en kold krig bryder ud mellem robotter og mennesker, vil vi tabe. Eric Schmidt er mere optimistisk. Han håber, de taber smarte biler: "Jeg er helt klart på folkets side. Det er vigtigt, at vi i denne kamp ser, hvad folk rent faktisk gør godt."
Der er en chance for at vinde. En person har brug for at blive klogere og hårdere
Schmidt gennemgik en række nutidige undersøgelser og konkluderede, at en række relativt dygtige middelklassejob nu allerede er automatiseret. Desuden. Efter hans mening, den eneste vej ud, - investere mere i uddannelse. Folk har kun en chance for at vinde en kamp ved at blive en størrelsesorden klogere. Denne udtalelse blev støttet af økonomer fra Oxford.
Andre, mere optimistiske forskere ser tværtimod kun gode ting i den nye trend. Introduktionen af teknologi og innovation giver kun velstand og øget velvære. Automatisering har ikke ført til, at arbejdspladser er forsvundet, men derimod skabt nye. Det forårsagede også en stigning i folks indkomster og en stigning i arbejdsproduktiviteten.
Schmidt huskede det til gengæld industrielle revolution i det 18. og 19. århundrede havde en dårlig effekt på nogle sociale lag befolkning, herunder i udviklede lande. Robotisering af økonomien, som følger samme scenarie som industrielle revolution i det 19. århundrede, ville kun føre til social ustabilitet.
Andelen af menneskelig arbejdskraft på verdensplan er faldet fra 64% til 59% i løbet af de sidste par årtier, sagde Oxford-økonomer. Lønningerne vokser ikke, og arbejdsløsheden stiger hvert år. Eksperter er sikre på, at det skyldes, at menneskelig arbejdskraft er alvorligt ringere end robotters arbejde.
Der er også denne mening: Introduktionen af robotter udgør ikke nogen fare, men vil kun forenkle folks arbejde. Dette kan sammenlignes med slutningen af det 20. århundrede, hvor computerteknologien ændrede kontorarbejdet og gjorde det hurtigere og nemmere.
FN kommer til undsætning
FN er som altid bekymret for alt, hvad der kan udgøre en trussel mod menneskeheden. FN's Menneskerettighedsråd foreslog at forbyde produktion af kamprobotter, der er i stand til at træffe beslutninger om ødelæggelse af levende mål. Sandt nok, kun for et stykke tid. Organisationen er overbevist om, at hvis udviklingen af sådanne teknologier ikke er tilbageholdt, så er døden af mennesker fra "robotter, der på et tidspunkt gik lidt på afveje fra programmet" uundgåelig.
"Der er gående robotter, inklusive tobenede, meget lig mennesker, de kan tage en almindelig M-16 riffel og dræbe. Dette er allerede en realitet," sagde FN's særlige rapportør om spørgsmålet om udenretslige henrettelser. retssag eller vilkårlige henrettelser af Christophe Heins. Afslutningsvis opfordrede han udviklede lande til at indføre et moratorium for produktionen af sådanne maskiner.
Max VILTOVSKY