- Domstolen har sanktionerat advokaten för att ha fabricerat offerter och systematiska fel i överklagandet
- Justice kommer ihåg att AI är användbart, men det ersätter inte professionellt ansvar
- Kanarieöarnas TSJ ålägger advokaten ett exemplariskt vite
Professionellt missbruk av artificiell intelligens har redan fått rättsliga konsekvenser i Spanien. Kriminalkammaren vid Högsta domstolen (TSJ) på Kanarieöarna har ålagt en böter på 420 euro för en advokat som i ett överklagande inkluderade ett flertal falska hänvisningar till rättspraxis genererade av artificiell intelligens utan att utsätta dem för förhandskontroll.
Nu blir det upp till Advokatsamfundet att vidta ytterligare disciplinära åtgärder men med denna dom Rättvisan varnar för riskerna med olämplig användning av ny teknik, att tusentals egenföretagare redan söker i sin verksamhet.
Domstolen har sanktionerat advokaten för att ha fabricerat offerter och systematiska fel i överklagandet
Beställningen, som avkunnades den 10 februari, bekräftar det Den överklagandehandling som presenterades av advokaten innehöll 52 referenser, varav endast fyra var sanningsenliga, eftersom det är citat som redan ingår i den överklagade domen. De återstående 48, tillsammans med en påstådd rapport från det allmänna rådet för rättsväsendet om trovärdigheten i barns vittnesmål, visade sig vara obefintliga eller felaktiga.
Efter att ha upptäckt dessa oegentligheter gav domstolen sin dokumentationstjänst i uppdrag att utföra en detaljerad analys av överklagandet. I sin rapport drog den slutsatsen att ingen av de ordagranta anteckningarna som tillskrivs Högsta domstolens avgöranden faktiskt förekom i de ovan nämnda resolutionerna. Vissa referenser hade felaktiga datum eller felaktiga siffror, medan andra motsvarade beslut i olika frågor.
Enligt kammaren är den mest troliga förklaringen att utnämningarna hade varit genereras med hjälp av artificiell intelligens och införlivas i skriften utan efterföljande granskning av advokaten.
Av denna anledning har domstolen slagit fast att den misstänkte advokaten ”inte verifierade att domnumren, datumen och identifierarna faktiskt existerade”, och tillade att ”verifierade inte utdata från AI-verktyget med rättsvetenskapliga databaser –särskilt det från Judicial Documentation Centre (Cendoj), med universell och fri tillgång– för att bekräfta ens en av dessa referenser, vilket skulle ha uppmärksammat honom.”
Justice kommer ihåg att AI är användbart, men det ersätter inte professionellt ansvar
Resolutionen insisterar på att domstolen inte ifrågasätter användningen av artificiell intelligens i juridisk praxis. Faktum är att han citerar vitboken om artificiell intelligens och opinionsbildning för att komma ihåg det Dessa verktyg kan ge effektivitet och snabb tillgång till information, men de kräver mänsklig övervakning.
”Principen om mänsklig övervakning blir således ryggraden i alla professionella handlingar som involverar användningen av dessa system,” står det i föreläggandet och betonar att det yttersta ansvaret även fortsättningsvis vilar på den yrkesutövare som undertecknar handlingen.
Detta fall inträffar vid en tidpunkt för växande antagande av artificiell intelligens bland frilansare, som redan använder dessa system för att förbättra sin produktivitet, vilket flera experter redan har förklarat för detta medium.
Trots fördelarna som AI erbjuder för att förbättra effektiviteten hos små företag, varnade de också för riskerna med att inte övervaka eller verifiera det arbete som utförs av dessa verktyg. Nu förstärker resolutionen från TSJ på Kanarieöarna just den idén genom att komma ihåg det Ansvaret för slutresultatet ligger ytterst på proffsen.
Kanarieöarnas TSJ ålägger advokaten ett exemplariskt vite
Allt detta har fått domstolen att anse att beteendet utgör en ”bortseende från grundläggande yrkesplikter på grund av allvarlig oförsiktighet.” Bland de noterade vårdslösheterna utmärker sig användningen av ett generalistiskt AI-verktyg istället för ett specialiserat.
Domstolen tillägger att denna talan bryter mot plikten till sanningsenlighet och förfarandemässig god tro och tvingade domstolen att utföra ytterligare verifieringsarbete för att förhindra att icke-existerande citat anses giltiga.
I sina anklagelser, Advokaten erkände fakta och tog på sig ansvaret. Han förklarade att han hade anförtrott sökandet efter rättspraxis till ett generativt underrättelseverktyg med ett betalabonnemang och att han inte jämförde resultaten.
”Jag borde ha gjort det, och jag gjorde det inte”, sa han i sitt ursäktbrev, där han också tillkännagav sin registrering i en kurs av det allmänna rådet för spanska advokater som syftar till ansvarsfull och etisk användning av artificiell intelligens.
I det här fallet påminner TSJ på Kanarieöarna om det Böterna kunde ha nått 6 000 euro men fastställer ett belopp på 420 euro efter ett kriterium som den anser vara ”objektivt och exemplariskt”. Å ena sidan tar den som utgångspunkt kostnaden (cirka 70 euro per månad) som den skulle ha haft för den berörda parten att använda ett specialiserat juridiskt verktyg, och å andra sidan minskar det de resulterande 840 eurona med hälften med tanke på att erkännandet av advokaten och hans avsikt att ändra det i framtiden utgör en förmildrande omständighet.
Det är dock inte den enda konsekvensen som denna yrkesutövare kommer att behöva möta eftersom ordern också beordrar att målet överförs till advokatsamfundet i Santa Cruz de Tenerife för bedöma eventuella ytterligare disciplinära skyldigheter.
