En offensiv utmaning

En självkörande bil kan programmeras för maximal säkerhet. Då stoppar den upp trafiken, blir stående för minsta hinder och kommer inte ut på trafikleder. Med ett mera offensivt körsätt fungerar bilen bättre i trafiken, men risken för olyckor ökar. Det är en bra bit kvar till det autonoma målet.

I går ägnade jag en timme åt en av KTHs öppna föreläsningar. Martin Törngren berättade om ”Digitalisering i en fysisk värld”, med tonvikt på autonoma fordon. Martin är en forskare som jag har ett mångårigt och gott förtroende för.

Det här med öppna föreläsningar är dessutom väldigt vettigt. Föreläsningssalen var fullsatt med människor i alla åldrar och frågestunden efteråt visade att de var både intresserade och välinformerade.

Tar sin tid
Fanns det då något nytt i föreläsningen. Nja, det var väl egentligen inte därför jag gick dit. Det intressanta var i stället att få information om forskningsläget just nu. Fantastiska tekniska nyheter blir man översköljd med som journalist.

Och inte helt oväntat handlar de stora utmaningarna fortfarande om offensivt kontra defensivt, problemet med oväntade händelser och legala problem. De rosenröda framtidsvisionerna för några år sedan har skjutits en bit framåt i väntan på att verklighetens problem betas av. Utvecklingen går framåt, men tar tid.

Offensiv körning
För egen del skrattar jag fortfarande gott åt förra årets SVT-inslag från Kista med den då nya självkörande bussen. Trafikborgarrådet Daniel Helldéns glada leende blev allt mer ansträngt för varje oväntat nödstopp och i slutet av inslaget såg han mest ut att önska sig långt därifrån. Ett härligt humorinslag från verkligheten.

Martin Törngren visade en videosnutt från USA, där en självkörande Google-bil försöker ta sig in i en fil från en påfart. Det gick inget vidare. Den autonoma bilens körning är för defensiv och inte ens när en vänlig själ stoppar sin bil och vinkar fram den autonoma bilen vågar Google-bilen byta fil. Normal mänsklig interaktion är komplicerad.

Det här betyder naturligtvis inte att autonoma bilar saknar framtid. Bara att problemen är lite större än vad en del teknikoptimister intalade sig i början.

Inte minst handlar det om att köra lite mera offensivt och att läsa av medtrafikanternas och fotgängarnas beteende. Det ena förutsätter det andra och innebär att kraven på AI-systemen blir betydligt större än man förmodligen trodde från början.

Ta ansvaret
Ett problem i sammanhanget är också att autonom körning ”på riktigt” kräver att man faktiskt kan lämna över ansvaret till bilen. Idag finns det bilar med hyfsat långtgående autonoma funktioner, men de kräver alla att föraren sitter på helspänn, beredd att ta över ansvaret.

Det här fungerar dåligt, helt enkelt för att människor är dåliga på den här typen av beredskap. Inget tyder på att utbildning eller något annat skulle förändra den saken.

I stället krävs att bilen och biltillverkaren verkligen tar ansvar för hela eller delar av körningen. Volvo är ett av de företag som sagt sig vilja ta det steget, även om det fortfarande finns en del legala hinder.

Så vi kan nog vänta oss att bilar om inte alltför många år kommer att acceptera ansvaret för att köra långa sträckor på motorväg utan krav på tillsyn. Det är något jag verkligen ser fram emot. Jag har inget emot långkörningar, men ärligt talat – så kul är det inte.

Däremot tar det nog betydligt längre tid innan bilarna tar ansvaret i stadstrafik. Martin Törngrens lilla framtidsvideo med bilar och fotgängare som korsar varandra på ett till synes kaotiskt, men väldigt effektivt, sätt kräver väldigt mycket mer än det vi ser i autonoma system idag. Frågan är väl om en så avancerad interaktion är möjlig så länge inte alla fordon är autonoma. Och fan vet hur man skall automatisera fotgängarna.

USA och Kina
Lite obehaglig blev väl föreläsningen när Martin Törngren gick in på var teknikutvecklingen sker och vilka företag som växer snabbast. Konkurrensen står mellan USA och Kina och det är inte alldeles lätt att se Sveriges och Europas roll i framtiden.

Kanske vår största konkurrensfördel till slut blir vårt eländiga vinterväder. Att utveckla system för autonom körning i Arizona är en sak. Där behöver man bara ta hänsyn till kulhål i trafikskyltar.

Men i snö och slask blir utmaningarna betydligt större. Igensnöade kameror ger dåliga bilder och ett AI-system kan ha svårt att skilja mellan en snödriva och litet barn. En något mera offensiv körning som fungerar bra i Arizona kan bli en total katastrof i ett vintrigt Sverige eller Kanada.

Jag minns en bilresa jag en gång i tiden gjorde till Arjeplog. Ett tyskt bilföretag (ATE) hade (för dyra pengar) hyrt ett Intel-utvecklingssystem och jag tog på mig jobbet att köra dit det. Som en kul bonus fick jag tillfälle att på Hornavans is testa en av deras tidiga ABS-prototyper.

Det här måste ha varit någon gång runt 1980 och sedan dess har testverksamheten i Arjeplog vuxit dramatiskt. Men det finns gott om plats i norra Sverige.

Säkerhet och skepsis
De autonoma bilarna kommer nog, även om det kan ta tid och kräver fler sensorer och bättre datorer än man från början inbillade sig. Vi inom elektronikindustrin har i alla fall en härlig tid framför oss.

Och det är väl ingen tvekan om att våra hem kommer att fortsätta att invaderas av trådlösa sensorer som detekterar och kontrollerar. För att inte tala om alla prylar som skall roa oss.

Men vi skall nog akta oss för att bara extrapolera kurvor. Den första blåögda positivismen brukar avlösas av lite mera skepsis när man inser att finesserna har ett pris.

Inte minst handlar det om säkerhet. Idag finns det massor av små övervakningskameror, larm och smarta prylar som kan anslutas till våra hemmanätverk och nås via molntjänster. Varje pryl av den här typen är en säkerhetsrisk och har ofta ett skydd som är mer än patetiskt.

Så när vi kopplar in våra kameror ger vi också intressant information till ”smarta tjuvar”. För att inte tala om att vi öppnar portarna in i våra nätverk på vid gavel.

Problemet minskar inte när vi ansluter värmesystemen, de smarta högtalarna, kylskåpen, leksakerna och alla andra kul saker. Det finns till och med anslutna tandborstar.

Säkerhetsdip
Årets Embedded World översvämmades av säkerhetsmjukvara. Likadant var det förra året. Men det är långt kvar tills dess att säkerhetstänkandet har kommit ut till alla de företag som tillverkar nätanslutna pryttlar. Ännu så länge är säkerhet inget stort säljargument. Men den tiden kommer.

Fram tills dess kan det vara bra att vara lite skeptisk inför nyheter. Att fundera en extra gång på vad man stoppar in i sitt nätverk och vilka rättigheter man ger.

Återigen får jag väl erkänna att jag inte lever som jag lär. Jag gillar mina övervakningskameror i Blekinge och min fjärrstyrda värmepump. Men jag inbillar mig åtminstone inte att de är säkra.

Ett billigt och inte alltför dåligt sätt att skydda sin dator från säkerhetsluckorna är förresten att lägga sin dator (och bara den) på ett separat subnät via en extra router. Om man dessutom stänger av WiFi-funktionen på routern blir det ännu bättre. Man tappar en del finesser, men det kan det vara värt.

Ibland fungerar det
Och på tal om tveksam programvara. Härom dagen slutade min Skype-anslutning att fungera på rätt sätt via min vanliga Windows 7-dator. Den kommer förhoppningsvis att börja fungera igen om ett par uppdateringar. Det gäller förstås bara vanlig Skype. Microsofts ”företags-Skype” slutade att fungera med Windows 7 för ganska länge sedan.

Min smarta 4K-TV (med WebOS) fungerar sedan tre veckor tillbaka inte längre med SVT-play. Eller rättare sagt – allt fungerar utom det sista lilla steget då programmet skall laddas. Med lite tur kommer SVT eller LG att göra något åt saken i någon framtida uppdatering.

Sveriges Radio verkar däremot ha lyssnat på kritiken och tagit sina programmerare i örat. Så nu fungerar återigen appen till ”Melodikrysset” på min handdator och min telefon. I förra uppdateringen ändrade man av någon anledning till en nätverksdrivrutin som bara fungerade till de senaste Android-versionerna.

Med det här vill jag ha sagt att moderna system inte är enkla och att kompatibilitet är ännu svårare. Att testa kompatibilitet i en datorvärld med ständiga uppdateringar innebär att man ständigt skjuter på rörliga mål.

Så var glad för allt som fungerar. Så länge det varar.

6 Responses to “En offensiv utmaning”

  1. Hur programmerar du in allt som kan inträffa i en dator? En liten boll rullar ut i gatan. Den är inte större än en råtta. Känner datorn igen den som en boll och bromsar då en unge kan komma efter. Eller är det en råtta och då bromsar inte bilen eftersom råttans liv är mindre värt än risken för att bli påkörd bakifrån eller få sladd.

    Hur ska alla möjliga situationer kunna programmeras. Det går inte!

    Och vem är skyldig till en olycka? Ägaren eller programmeraren? Det upptäcks att en givare har levererat fel data. Är det i så fall ägaren för han inte underhållit bilen korrekt eller biltillverkarens ansvar för att enbart en givare kan få systemet osäkert?

    Eller har en tredje part mixtrat med programvaran för att få bilen att inte köra så feg, eller kanske rent av i illvilja för att orsaka olyckor.

    Att få en bil att rulla på någon testbana betyder inte att man är nära målet med självkörande bilar. Det är bara första milstolpen på en längre resa.

  2. Hej Anders

    Ja, lätt är det sannerligen inte. Det där med att programmera in alla tänkbara situationer funkar förstås inte, utan bildatorn måste kunna tänka själv också. Och helst på rätt saker.

    Det tar nog sin tid innan allt är klart.

    /göte

  3. Hej

    Som jag brukar hävda -för att få autonoma bilar att fungera i alla situationer så behövs extremt avancerad AI. Men när bilarna blir så smarta och börjar tänka själva så kommer dom att inse att människor bara är i vägen och göra allt för att utrota oss.

  4. Hej
    Man får sig ju en tankeställare om datorisering i samband med krascherna med Boeing 737 Max 8. Om det är som man misstänker att ett programfel i mjukvaran orsakat olyckorna och att piloterna inte kan häva problemen så är det ju förskräckligt. Programvaran i ett flygplan måste ju vara näst intill idiotsäker.
    För att få autonoma bilar att fungera så räcker det ju inte bara att de kan avläsa trafiksituationer, de måste också kunna hantera den interaktion som gäller mellan människor och utifrån ögonkontakter och bedömning av små mänskliga signaler kunna dra rätt slutsatser. Men detta är ju inte lätt även för människor.
    Jag har också en observation av vingelindikatorn i min bil. Den ska ju larma om man ändrar bilens läge i förhållande till vägmarkeringar. Problemet i vintertid är att den uppfattar snösträngar som vägmarkeringar och varnar som det vore vägmarkeringar. Nu är det ju bara en varning men man kan ju fundera på vad som skulle hända om bilen tog ett aktivt beslut pga denna felinformation.

  5. Apropå Boeing. Läste att när amerikanska myndigheter krävde en lösning senast april, så släppte Boeing en programvarufix efter bara några timmar. Jag ser framför mig:

    1. En pressad bolagsledning går på projektledningen och säger att nu f-n måste vi ha något om ni har något. Det här handlar om stora pengar och förtroende.
    2. En pressad projektledning ser att vi har en fix och vi har hunnit testa den med felfallet från Indonesien, samt ett antal andra fall, men inte alla testfall. Jag gissar på att de har väldigt många fall att pröva då antalet verkliga fall måste vara miljoner.
    3. Man släpper fixen och presenterar därmed en lösning.
    4. De flesta människor ser det som att Boeing är ett företag som verkar hyfsat pålitligt ändå. De hade redan fixat problemet.
    5. Sedan har man de där förbaskade ingenjörerna som vet hur det kan gå till i verkligheten. Fixen kanske fixar problemet, men det är väldigt lätt hänt att ett annat fall som förut fungerade nu slutat att fungera korrekt.

    Nu kanske jag målar fan på väggen…

  6. En enkel fix skulle kanske vara att helt enkelt plocka bort de extra säkerhetsfunktionerna. Trots allt skall ju piloten vara utbildad i att minska stigvinkeln när hastigheten sjunker. Det är liksom det första man får lära sig på pilotutbildningen.

    På den tiden då jag flög små Cessnor fick jag alltså lära mig att reglera hastigheten med höjdrodret och höjden med gasreglaget vid start och landning. Då är hastigheten den viktigaste parametern och något man alltid håller ögonen på.

    Jag kan tänka mig skräcken hos den pilot som inte kan koppla ur en autopilot som vill köra planet i backen. Vilken mardröm.

    /göte