Lena Schiwitz utforskar ämnet förtroende för AI och hur att bygga en karriär inom tekniken inte handlar om att ”vara en viss typ” av professionell.
Om mindre än en månad kommer Lena Schiwitz, som är AI-chef på Zürich-baserade start-upen MoodTalk, på väg till University of Oxford som en av 35 studenter som deltar i ett nytt AI-masterprogram.
Idag är mycket av hennes arbete fokuserat på artificiell intelligens och hur den kan integreras i konsument- och interna processer och specifikt hur organisationer faktiskt kan ta till sig den.
Schiwitz berättade för SiliconRepublic.com, ”Det innebär att bygga AI-arbetsflöden, arbeta med kunder och titta noga på var människor litar på tekniken, var de tvekar och vad som gör den verkligen användbar i deras dagliga arbete.
”Vårt bredare fokus ligger på att göra kunskap inom organisationer mer tillgänglig. Ofta finns informationsledarnas behov redan någonstans i organisationen, men den är spridd över team och nivåer och når inte rätt person vid rätt tidpunkt.
”Vi använder AI för att samla in perspektiv och identifiera mönster över dem, så att ledare kan förstå vad som händer utan att vänta på att information långsamt ska röra sig genom möten, rapporter och ledningsskikt.”
Konceptet att hitta rätt person vid rätt tidpunkt, eller att vara arkitekten för någon annans resa är en som är väldigt personlig för Schiwitz eftersom hennes karriärbana initialt var på väg åt en helt annan riktning.
Hon började sin karriär som nationell skollärare i hemlandet Österrike och arbetade två år inom barnomsorgen.
Hon sa: ”På den tiden hade jag väldigt lite exponering för teknik eller hur karriärer inom teknik faktiskt såg ut. Jag hade alltid älskat matematik, logiskt tänkande och att ta reda på hur saker fungerar. Jag visste bara aldrig att det fanns karriärer byggda kring dessa intressen.
”Det förändrades när jag flyttade till Schweiz för att arbeta som barnskötare. Båda föräldrarna i min värdfamilj arbetade med teknik och under middagen pratade de om produkter de byggde, problem de löste och beslut de var tvungna att fatta. Jag tyckte att de samtalen var fascinerande. För första gången såg jag en professionell värld som matchade det sätt jag tyckte om att tänka.”
Därifrån studerade hon affärsinformationsteknik, en kurs som många av hennes vänner hade erfarenhet av via en rad lärlingsprogram och tidigare jobb.
”Jag hade tillbringat samma år med att arbeta med barn”, förklarade hon och tillade att, ”till en början kändes det som en nackdel. Men med tiden insåg jag att jag tog med ett annat perspektiv. Min bakgrund hade lärt mig mycket om hur människor lär sig, vad som motiverar dem, hur de reagerar på förändringar och varför samma tillvägagångssätt inte fungerar för alla.”
När hon avslutade sin kandidatuppsats om lita på AIalla bitar föll på plats och hon fann för första gången att det fanns ett utlopp där hon kunde kombinera förståelse för människor och lärande med kunskap om teknik och AI.
Hon sa: ”Jag insåg att jag var mest intresserad av utrymmet där dessa saker möts, att förstå vad teknik kan göra och vad människor behöver för att faktiskt använda den.”
AI vän eller fiende?
Konceptet med tillit till AI är ett som är särskilt motiverande för Schiwitz som förklarade att vi börjar anpassa oss till tekniken nästan lika mycket som den anpassar sig till oss.
Hon sa: ”För några år sedan ställde vi mest AI-isolerade frågor. Nu ger vi den tillgång till våra möten, dokument, beslut och i allt högre grad vårt organisatoriska minne. Vi spelar in konversationer med vetskap om att de kan bli sökbara senare. Vi dokumenterar information på ett annat sätt eftersom vi förväntar oss att AI ska förstå sammanhanget.
”Jag tycker att den förändringen är fascinerande. Vi bygger AI kring hur människor arbetar, samtidigt som vi börjar organisera vårt arbete kring vad AI kan förstå. Och detta sker snabbare än vad normerna kring det kan utvecklas.
”Vi bestämmer fortfarande vad AI ska komma ihåg, vad det ska glömma, hur mycket sammanhang det ska ha och vilka beslut som ska förbli mänskliga.”
Hon finner sig själv driven av ett behov, inte bara att bygga bättre teknik, utan att vara en del av att ta reda på hur människor och AI ska fungera tillsammans, eftersom ”många av de viktigaste frågorna fortfarande är öppna.”
Rätt sorts förtroende
Schiwitz noterade dock att att bygga förtroende för AI handlar om mer än att bara göra människan mer förtroendefull för teknik, särskilt i fall där det kan vara obefogat.
Under forskning upptäckte hon att det inte nödvändigtvis är svårt att öka människors förtroende för AI i scenarier där den artificiella intelligensen faktiskt inte har förbättrats.
Hon sa: För min kandidatuppsats ändrade jag relativt enkla saker kring en AI-assistent. Jag förklarade tydligare varför människor interagerade med den, gjorde dess begränsningar mer synliga och gav konversationen mer struktur. Själva AI:n blev inte smartare, men folks förtroende för den ökade avsevärt och sättet de interagerade med den förändrades.
”Jag tyckte att det var fascinerande, men också lite obehagligt. Det hade jag började min forskning frågar hur jag kan få folk att lita på AI. Mot slutet frågade jag om mer förtroende ens borde vara målet. Om relativt små designval kan förändra hur mycket folk litar på en AI, så är tillit inte nödvändigtvis ett bevis på att systemet förtjänar det.”
Detta förändrades dock för henne när hon började tänka på AI i organisationer och hur målet aldrig är maximalt förtroende.
”Det borde hjälpa människor att lita på AI när de borde och ifrågasätta det när de inte borde.”
Och hennes unika omväxling till teknik, där hon kom in med en mindre än traditionell utbildningsbakgrund, har hjälpt denna önskan att odla verkligt förtroende för AI och teknikteam som helhet.
Hon sa: ”Länge trodde jag att jag kommit in i tekniken för sent. Nu tror jag att jag helt enkelt gick in i den med ett annat perspektiv. Min bakgrund inom utbildning formar fortfarande frågorna jag ställer om teknik, särskilt kring hur människor förstår, litar på och använder den.
”I höst börjar jag Oxfords MSc i artificiell intelligens för företag vid sidan av mitt arbete. För mig känns det mindre som ännu en riktningsändring och mer som att gå djupare in på frågorna jag har följt hela tiden.”
