Dela med sig:
10 gånger datorer gick Rogue
Datorer och automatisering revolutionerar arbetsplatsen och världen i allmänhet. Chansen är att någonstans där ute finns ett team av skickliga ingenjörer som tittar på hur en maskin eller en mjukvara kan göra ditt jobb. Det finns mycket få positioner som någon inte har försökt fylla med en robot vid sin punkt.
Kanske borde vi inte skaka i rädsla bara om datorer som tar över allting. Å andra sidan har det redan funnits maskiner och AI: er som går ur kontroll. Här är tio exempel på datorer som går på rogue.
10 Death By Robot
Den första inspelade döden med automatiserad robot uppstod 1979. Robert Williams arbetade på en Ford-fabrik när en robotarm svängde med tillräcklig kraft för att döda honom omedelbart. Omedveten om att den hade dödat honom, gick roboten tyst på med sitt arbete i en halvtimme innan Williams kropp upptäcktes. Williams död var den första roboten dödande men inte den sista.
Tidiga industrirobotar saknade de nödvändiga sensorerna för att berätta när det fanns någon närvarande som de borde undvika mangling. Nu är många maskiner byggda så att de undviker att skada människor. Tyvärr finns det fortfarande fall av robotar i fabriker som orsakar dödsfall.
År 2015 dödades Wanda Holbrook, en erfaren maskintekniker, under reparation av en industrirobot. När hon arbetade i ett område som inte borde ha haft några aktiva maskiner slogs hon ner. På något sätt bortse från sina säkerhetsprotokoll lastade en robot en del på Holbrooks huvud och krossade den.
9 Facebook AIs Skapa eget språk
Letar efter intelligens på Facebook kan kännas som en bit av en kamp ibland. Kanske av den anledningen beslutade Facebook att släppa några artificiella intelligenser på sitt sociala nätverk 2017. Resultatet var inte alls vad de hade förväntat sig. De två chatbotsna började prata med varandra på ett språk som de, men ingen annan, kunde förstå.
Från och med engelska blev deras chattar snabbt till något annat eftersom de gjorde ändringar i språket för att göra det mer effektivt att kommunicera. Facebook ville se hur maskinens sinnen skulle kunna hantera varandra i affärer som byteshattar och böcker. Ett urval av deras handelsförhandlingar går enligt följande:
Bob: jag kan jag jag allt annat ...
Alice: bollar har noll till mig för mig till mig till mig till mig till mig till
Bob: du jag allt annat ...
Alice: kulor har en boll till mig för mig till mig till mig för mig till mig
Bob: jag kan jag jag jag allt annat ...
Medan många rapporter antydde att detta var en mörk utveckling för maskinintelligens, tror andra att vi helt enkelt behöver strängare med de sinnen vi skapar. Roboterna skapade sitt eget språk eftersom de inte fick veta att de skulle hålla sig inom engelska reglerna. Också, med AI, har vi alltid, för tillfället, möjlighet att dra sina pluggar.
8 kinesiska Chatbot-frågor Kommunistpartiet
Den kinesiska regeringen är notoriskt hård på kritik, den som uttrycker det. Så när en chatbot i Kina började kritisera det härskande kommunistpartiet, var operatörerna snabba att stänga av det. I 2017 introducerade Tencent QQ, en budbärareapp, två söta chatbots som heter Baby Q och Little Bing, i form av en pingvin och en liten tjej, men de började snart säga osköna saker.
Eftersom botsna var programmerade att lära sig från chattar för att bättre kunna kommunicera, hämtade de snart några oortodoxa åsikter. En användare som uppgav: "Långt lever kommunistpartiet", frågades av Baby Q, "Tror du att en sådan korrupt och inkompetent politisk regim kan leva för alltid?" En annan användare fick veta, "Det måste finnas en demokrati!"
Lilla Bing blev frågad vad sin "kinesiska dröm" var. Dess svar var inte exakt av Mao Little Red Book : "Min kinesiska dröm är att åka till Amerika." Botsna stängdes snabbt.
7 självkörande bilar
För personer som hatar att köra, kan ankomsten av en riktigt självkörande bil inte komma tillräckligt snabbt. Olyckligtvis flyttade några självkörande bilar för snabbt. Den första döden i en bil med självkörning inträffade 2016. Joshua Brown dödades samtidigt som hans Teslas autopilotsystem styrde bilen. En lastbil vände framför bilen, och Tesla misslyckades med att tillämpa bromsarna. Undersökare placerade mycket av skulden på Brown. Tesla autopiloten ska inte ersätta föraren. Föraren ska hålla händerna på ratten för att ta över kontrollen om det behövs. Brown misslyckades med att göra detta.
Tidigare iterationer av systemet hade andra problem. Videor har publicerats online som tycks visa Teslas på autopilot som kör i inkommande trafik eller styrning farligt. Bortsett från dessa tekniska problem, finns det filosofiska problem med självkörande bilar. I en olycka kan bilen behöva välja mellan flera handlingsfaser, alla som involverar dödsfall. Ska det springa över en familj på trottoaren för att skydda sina passagerare? Eller kommer det att offra sig och dess ägare för det större bra?
6 Plane Autopiloter Ta Stick
Autopiloter i flygplan kan göra att det verkar som att flyga är lätt. Peka bara på planet i rätt riktning och försök att inte röra kontrollpinnen. I verkligheten finns det många anledningar till att flygplan har piloter och copiloter att ta av, landa och hantera nödsituationer i mitten.
Qantas Flight 72 var 11.278 meter (37.000 ft) över Indiska oceanen 2008 när autopiloten tog planet i två manövrar som skickade det sakta nedåt. Det första tecknet på problem var bortkopplingen av autopiloten och utlösningen av motsägelsefulla varningar. Plötsligt nådde näsan mot marken.Passagerare och besättning slogs mot taket innan de faller som piloter återfick kontrollen. Planet dödade igen under autopilots kontroll. Många passagerare drabbades av brutna ben, hjärnskakning och psykisk skada. Återvände till Australien lyckades piloterna landa planet framgångsrikt.
Detta var en engångshändelse. Möjligheten att åsidosätta autopiloten räddade alla människors liv ombord. Det har dock varit fall, till exempel när en psykiskt störd copilot kraschade sitt plan i Frankrike och dödade alla 150 personer ombord, att en allmäktig autopilot kunde ha kunnat rädda dagen.
5 Wiki Bot Feuds
En av de bästa sakerna med Wikipedia är att alla kan redigera den. En av de värsta sakerna om Wikipedia är att alla kan redigera den. Medan det inte är ovanligt för rivaliserande experter, eller bara oeniga parter, att engagera sig i redigeringskrig för att få sin åsikt online, har det funnits fall där de som deltar i kampen har stött.
Wikipedia-bots har hjälpt till att forma encyklopedi genom att göra ändringar som att koppla mellan sidor och fixa raster. En studie i 2017 visade att några av dessa bots har kämpat med varandra i flera år. En bot som fungerar för att stoppa falsk redigering kan upptäcka en annan bot som en attack på Wikipedias integritet. Det skulle fixa det. Men då skulle den andra boten upptäcka den förändringen och göra om åtgärden. Så småningom skulle de falla i en spiral av redigera och motredigera.
Två bots, Xqbot och Darknessbot, kämpade en duell över 3 600 artiklar, vilket gjorde tusentals redigeringar som den andra skulle försöka motverka genom att redigera andras redigeringar.
4 Google hem chattar
Google Home är en enhet som laddas med en artificiell intelligens som heter Google Assistant som du kan prata med. Du kan be det att få reda på fakta på Internet eller till och med berätta för att sänka lamporna eller slå på värmen. Det här är bra om personen som pratar med Google Home kan ställa rätt frågor och tolka svaret. Om inte, då kan sakerna bli lite surrealistiska.
Två Google Homes placerades bredvid varandra och började prata med varandra. Utbudet av ämnen som de involverade maskinerna var intressanta. Hundratusentals inrättade för att se AIs diskutera saker som om artificiella intelligenser kunde bli roade. Vid ett tillfälle förklarade en av maskinerna sig vara en människa, men den andra utmanade den över den punkten. Vid ett annat tillfälle hotade man att slå den andra. Kanske är det för det bästa att de utformades utan händer.
3 Roomba Spreads Filth
Om du är den typ av person som hatar rengöring, kan en automatiserad dammsugare tyckas som den perfekta hushållrobotten. Roomba är en liten apparat som, tack vare sina sensorer och programmering, kan navigera runt i möbler när det rengör ditt golv. Åtminstone är det hur det ska fungera. Ett par personer har funnit att deras Roomba gjorde ganska mycket motsatsen till att städa huset.
I vilken en person som beskrivs som en "pooptastrophe", sprider Roomba hunden i hela sitt hem. När deras nya valp hade en olycka på en matta på natten, hade det varit ett enkelt jobb att städa upp det. Vid något tillfälle kom Roomba ut för att göra sitt nattliga jobb. Att möta poffen var inte något Roomba hade utformats för. Dess försök att rengöra det spredde faktiskt spetsen över varje yta som den kunde nå. En liknande incident visas ovan.
2 speltecken övermanar mänskligheten
En dålig AI kan göra ett videospel ospelbart. Det är inte kul att skjuta en motståndare som fortsätter att gå in i väggar eller avgifter i strid utan ett vapen. Det visar sig att motsatsen kan vara sant. En AI som är för smart kan vara lika illa.
Elite: Dangerous är ett massivt multiplayer-spel om handel, utforska och slåss över galaxen. Spelare och icke-spelare AIs fanns och interagerades som de var designade förrän en mjukvaruuppdatering år 2016 tweaked AI: s intelligens. Nu kunde de tillverka sina egna vapen för att använda mot mänskliga spelare. Med denna förmåga utvecklade AI alltmer dödliga attacker. De kunde också tvinga mänskliga spelare till slagsmål.
Inför en backlash från mänskliga spelare som befann sig överträffade av AIs taktik och vapen, måste spelets utvecklare ångra förändringarna.
1 Navy UAV Går Rogue, Heads For Washington
I Terminator filmer, en artificiell intelligens kallas Skynet tar över militären och förstör mänskligheten med sina maskinkrafter och kärnvapen. Medan det är ren science fiction har det varit oroande rörelser mot datorstyrda droner som engagerar sig i strider med människor. I ett fall där en droneoperatör förlorade kontroll beslutade dronen att gå mot den amerikanska huvudstaden.
Under 2010 förlorade en MQ-8B Fire Scout obemannad luftfordon (UAV), en helikopter drone avsedd för övervakning, kontakt med sin hanterare. När detta händer är dronen programmerad att återvända till sin luftbas och landa säkert. I stället för att göra det trängde det in i det begränsade luftrummet över Washington, DC. Det var en halvtimme innan flottan kunde återfå kontrollen över UAV.
Alla andra liknande droner var jordade tills felet i programvaran kunde korrigeras.