Hoppa till huvudinnehåll
Digitalisering

Har AI-utvecklare ett samhällsansvar?

Den oerhörda datamängd som finns tillgänglig som underlag för beslut håller på att bli för stor för människan att hantera, därför behövs intelligenta maskiner. Det menar Torbjörn Hägglöf, konsult inom life science på IBM. Men med utvecklingen av självlärande datorer följer ansvar.
Gabriella Westberg Publicerad 12 november 2015, kl 11:52
IBM:s dator Watson.
Säg hej till Watson! Det här är IBM:s dator med artificiell intelligens, som både hör och förstår tal och snart även ser och analyserar bilder. Foto: IBM

Hälso-tech är en av de snabbast växande IT-sektorerna i världen. Varje år mångdubblas mängden data som är relevant för läkare och forskare inom life science. För att kunna hantera och filtrera datamängderna och utifrån dem ta rätt beslut behöver människan hjälp av smarta system.

- Det är det Watson handlar om, förklarar Torbjörn Hägglöf för besökarna på den årliga IT-konferensen Sime, som hölls i Stockholm i veckan.

Watson är IBM:s berömda artificiella intelligens (AI) till dator som för några år sedan tävlade mot mänskliga mästare i frågesporten Jeopardy – och vann. I korta drag är det en maskin som svarar på verbalt ställda frågor med en samlad minneskapacitet som vid tävlingstillfället rymde fyra terabytes, eller 200 miljoner sidor av både strukturerad och ostrukturerad information. I dag är den ännu smartare.

Watson hör och förstår tal, men inom kort ska Watson också kunna se och analysera bilder, både stilla och rörliga - med fokus på life science. Syftet är, enligt IBM, att hjälpa forskare och i princip hela vårdapparaten att ställa rätt diagnos och ta rätt beslut.

I panelen på Sime-konferensen deltog även Claes-Henrik Julander som med sitt Pan Capital utvecklat virtuella börsmäklare – som enligt egen uppgift i ett slag svepte bort en stor del av den yrkeskategorin - och Chris Boos, grundare av Arago vars intelligenta tjänst Autopilot ska kunna automatisera 80 procent av all IT-service, från infrastruktur till affärssystem. ”Människor slösar bort sin tid med att jobba som robotar”, heter det på Aragos hemsida.

Man talar i dag om ”beneficial artificial intelligence”, det vill säga godartad artificiell intelligens - i motsats till, får man anta, något mer illasinnat. Det finns en oro för utvecklingen, inte bara bland medelinkomsttagare som riskerar att bli av med jobbet när allt fler arbetsuppgifter automatiseras.

Även bland dem som själva utvecklar självlärande datorer börjar man tala allt mer om det ansvar som följer med uppgiften.

- Vi måste vara försiktiga och öppna med vad vi gör, vi måste sätta det i perspektiv. Hur använder vi de här systemen och hur kan vi göra det på ett ansvarsfullt sätt? Gör vi det kan vi skapa system som förbättrar och förenklar allt vi gör. Människa och maskin kan tillsammans åstadkomma mycket mer än vad endera hade kunnat på egen hand, säger Torbjörn Hägglöf.

När det handlar om självlärande datorer med tillgång till stora mängder data är det viktigt att man redan i början av utvecklingsstadiet riktar in intelligensen åt ett håll som är bra för oss.

- Det vore en väldigt bra idé om människor först och främst kunde komma överens om värdet av mänsklighet och sedan börja programmera maskinerna, konstaterade Chris Boos, som dock också konstaterade att majoriteten av alla människor i världen är ganska vettiga och därför bättre ”lärare” åt maskinerna än enskilda.

- Växer du upp inom maffian lär du dig att den typen av samhällsskick är normalt. Majoriteten tänker inte så, konstaterar han.

Att kringgå regler är dock människans främsta egenskap, menar Chris Boos, medan maskinerna tvärt om bara kan följa regler. Om vi kan uppvärdera det mänskliga och nedvärdera de egenskaper maskinerna gör bättre, har vi kommit en bra bit på väg mot att utveckla en god artificiell intelligens.

- Vad är det då vi ska nedvärdera? Beslutsfattande eller empati? I framtiden kanske en sjuksköterska ska få högre lön än en läkare, eftersom empatin inte kan ersättas av en maskin, spekulerar Chris Boos.

Kombinationen av artificiell intelligens och big data är superhett inom life science och hälsotech, men utvecklingen pågår på alla områden.

E-handlare som Amazon har börjat laborera med drönare för att leverera paket. Både Volvo och Mercedes har tagit upp kampen mot Google och presenterat självkörande bilar. Delningsekonomins app-baserade tjänster raderar behovet av tusentals mellanhänder inom alla möjliga branscher och på svenska nyhetssajter kan man redan i dag läsa texter författade av journalistrobotar. Läkare, säljare, administratörer, städare, bankirer; ingen yrkeskategori går säker från den här omställningen. Men utvecklingen går olika fort i olika branscher. Och även det bör utvecklarna tänka på, menar Chris Boos.

- Ansvaret ligger hos var och en som bygger de här systemen, att tänka efter. Om anställda inom IT-branschen blir friställda kommer de nog snart ha något annat att göra. Men tjänster som Airbnb innebär en mer smärtsam omställning för dem som blir utbytta. Jag sörjer inte för de förändringsobenägna, men människor behöver tid att ställa om. Och vissa branscher borde faktiskt använda smarta IT-lösningar mindre, för att inte bli helt bortsvepta, sa Chris Boos, och exemplifierade med bank, finans och telekom.

Men möjligheterna med en accelererande, självlärande förmåga att hantera allt större mängder data övertrumfar ändå oron, åtminstone i panelen på Sime-konferensen.

- Vi kommer att se tillbaka på den här tiden och fråga oss hur vi kunde ta några beslut alls utan data. Det kommer att hända helt snart, säger Torbjörn Hägglöf.

- Redan i dag undrar man hur man någonsin kunde stämma träff med sina vänner utan mobilen. Vi kommer att bli den sista generationen som inte var herrar över vår tid. Det är vad vi får tillbaka, tid. Vi måste bara använda den klokt, säger Chris Boos.

- Det är en fantastisk game changer. Och det som gör mig upprymd är den unga generationen. De ser inga hinder!, säger Claes-Henrik Julander.

Andra intelligenta datorer

Google är ett annat företag med en stor målsättning: att samla all världens kunskap. Googles AI TensorFlow bygger på öppen kod och tar alltså omvärlden till hjälp för både utveckling och innehåll. Ansvarig utvecklingschef är Ray Kurtzweil, som uttryckt förhoppning om att utveckla en inte bara intelligent men också medveten dator – en artificiell, självlärande hjärna.

Poängen med en självlärande dator är att den inte alltid behöver programmeras för utveckling, den behöver snarare matas med information. Ofta är det du och jag som matar den. Till exempel matar många av oss Facebooks AI-projekt, som för närvarande går under det ödmjuka namnet FAIR och bland annat ska kunna känna igen ansikten och ”underlätta kommunikation”, oklart hur.

Säkert är att det inom bara ett par år kommer att finnas tänkande AI-system i en ficka nära dig, det enligt tidningen The Wired. Det händer så snart mobiltelefonernas chip och grafikkort anpassats för det, och den utvecklingen går fort. Då kan i teorin den med svag syn ta hjälp av mobilkameran för att identifiera grannens katt. Och vem vet vad annat.

Digitalisering

Det största cyberhotet på jobbet är du själv

Det absolut största cyberhotet mot din arbetsplats är du. För trots att du troligtvis vet hur du ska skydda dig mot angrepp från cyberbrottslingar, låter du bli. Men ansvaret att hålla databuset ute faller inte enbart på dig.
Johanna Rovira Publicerad 4 april 2024, kl 08:37
Till vänster en man som jobbar med en internetrouter, till höger en cyberbrottsling med mask för ansiktet och en bärbar dator framför sig.
AI är ett av cyberbrottslingarnas nya vapen. Men det största hotet mot IT-säkerheten på jobbet är du, din lathet och din snällhet. Foto: Colourbox.

De är listiga, kreativa och ligger hela tiden steget före IT-experterna. Cyberbrottslingarna är dessutom extremt intresserade av just dig, eftersom du som anställd är deras väg in på företaget där de presumtivt kan tjäna storkovan på att stjäla, spionera, blockera och hota med att förstöra. 

– Alla stora företag har någon form av grundskydd, som brandväggar och krypteringar. Så brottslingarna letar efter olika sätt att ta sig in och kan hitta dig exempelvis via Linkedin, förklarar Måns Jonasson, internetexpert på Internetstiftelsen. 

Så kallad spearphishing, riktade attacker via mejl, handlar om att bedragare vill förmå dig att öppna en länk eller att installera något på datorn. Och en hel del lyckas i sitt uppsåt. 

–Många är lata och trötta och gör saker av slentrian, det är då det blir farligt, säger Måns Jonasson. 

Snällhet kan straffa sig

Måns Jonasson, Internetstiftelsen.
Måns Jonasson. Foto: Internetstiftelsen.

Farligt kan det också bli när vi är för snälla. Nätskurkarna tvekar inte att utnyttja vår hjälpsamhet. 

– Generellt är vi hjälpsamma och blir man kontaktad av någon som utger sig för att jobba på en annan avdelning och ber om hjälp, brukar vi ställa upp. Det är tråkig att behöva vara skeptisk hela tiden, men fråga gärna en extra gång i stället för att göra ett dyrt misstag, säger Måns Jonasson.  

Men vi är inte bara lata, trötta och alltför snälla, vi är också dessvärre högst oemottagliga för information om hur vi ska hålla cyberbuset borta. Informationskampanjer som brottsförebyggande metod är ineffektiv, konstaterar Karin Svanberg, enhetschef på Brottsförebyggande rådet, BRÅ. 

– Vi förändrar dessvärre sällan vårt beteende bara för att någon talar om att vi gör fel eller riskerar något. Jämför med hur vi till exempel förhåller oss till rökning, fet mat och droger, säger hon. 

Det finns alltså en förklaring till att världens vanligaste lösenord är 123456, trots att alla vid det här laget vet att knepiga, unika lösenord är A och O när det gäller att hålla hackarna på behörigt avstånd. 

AI förändrar spelplanen för cyberbrottslingar

Men bedragarna blir alltmer förslagna och tar dessutom hjälp av ny teknik. Tidigare kunde man identifiera bedrägeriförsöken på lockbetenas usla stavning och grammatiska klumpighet, men tack vare AI har lurendrejeriförsöken blivit mer sofistikerade.  

Klonade röstsamtal har redan förekommit i cyberbrottsammanhang och säkerhetsexperter förutspår att inom en mycket snar framtid kommer bedragare med hjälp av generativ AI även kunna förfalska videosamtal. 

– Det gäller absolut att vara på sin vakt. Teoretiskt finns redan möjligheten att skapa en avatar och den tekniken kommer att bli bättre, även om det i dagsläget är ganska dyrt och komplicerat, säger Måns Jonasson. 

Framöver behöver du alltså vara än mer observant och varken tro dina öron eller ögon om chefen eller kollegan ringer upp dig via teams och ber dig utföra någon tjänst som i förlängningen kan leda till att företagets konton töms. 

– Det gäller att inta ett skeptiskt förhållningssätt och ha känselspröten ute, säger Måns Jonasson.  

– Men det är taskigt att lägga hela ansvaret på de anställda, internetsäkerhet är en utmaning som kräver jobb på flera fronter. IT-systemen måste också bli smartare och enklare att använda så att det blir svårare att göra fel. 

Ordlista

Social engineering/social ingenjörskonst: Social manipulation som omfattar flera olika tekniker för att lura åt sig uppgifter. 

Spoofing: Bedragaren använder falsk avsändare i mejl, sms eller via telefon. 

Phishing - nätfiske: Falska länkar infekterade med virus

Spearphishing: Nätfiske riktade mot specifika personer

Astroturfing/konstgräsrötter :- Fejkade kampanjer eller budskap som ser ut som det kommer från vanligt folk

Ransomewere: utpressningsvirus

DDOS: Hör till de cyberattacker som ökar mest. Attacker mot webbplatser för att överbelasta system med följden att dessa går dåligt eller kraschar helt. 

Deepfake/djupfejk: Förfalskade videor, bilder, ljud som genom avancerad AI  låter avatarer tala och agera. 

Så skyddar du dig – en liten påminnelse

  1. Öppna ej bifogade dokument/länkar från okända – de kan infektera med skadlig kod i syfte att norpa värdefull information/utpressa. Öppna heller inte bifogade dokument eller länkar från kända avsändare som verkar atypiska eller konstiga. Avsändaradressen kan vara förfalskad eller fått kontot kapat.  För att kolla att avsändaren av ett mejl är ok: För musen över adressen utan att klicka och jämför adressen som dyker upp i rutan.
  2. Ett långt lösenord är bättre än ett kort komplicerat. Använd inte samma lösenord överallt. Det går nämligen att köpa avlagda lösenord på Darknet.
  3. Logga inte in på olika ställen via Facebook – du lämnar spår som kan användas mot dig.
  4. Uppdatera mobilen och datorn omgående när det kommer propåer  – säkerhetsuppdateringar beror ofta på att man hittat luckor som behöver täppas till. 
  5. Undvik att koppla in dig på gratis nätverk. Genom att använda en vpn-anslutning skyddas din dator.
  6. Sätt inte in ett upphittat usb-minne eller laddsladd i datorn för att stilla din nyfikenhet. De kan innehålla skadligt virus eller spionsystemvara.
  7. Lämna aldrig jobbdatorn obevakad och låt ingen annan använda den. Det förekommer att barn duperats att göra förälderns dator mottaglig för hackerattacker.