To, čo kedysi vyzeralo ako sci-fi nočná mora, sa dnes stáva realitou: veľké jazykové modely, ako ChatGPT, sa neobmedzujú len na študentské podvádzanie alebo generovanie zavádzajúcich správ. Dnes už prenikajú do sveta práva – a priamo ovplyvňujú rozhodovanie súdov.
V USA sa nedávno odohral prípad, ktorý by mohol znamenať predzvesť hlbokého otrasu dôvery v spravodlivosť. Odvolací súd v štáte Georgia musel zrušiť rozhodnutie v rozvodovom konaní po tom, čo sa ukázalo, že právny dokument predložený súdu obsahoval množstvo falošných právnych citácií – pravdepodobne vymyslených umelou inteligenciou.
Právnik manžela, ktorý dokument vypracoval, podľa všetkého použil generatívny AI nástroj, ktorý „vymyslel“ neexistujúce prípady, ale citácie zneli presvedčivo. Súd prvej inštancie návrh prijal bez podozrenia a rozhodol v prospech manžela. Až keď sa manželka odvolala, odvolací senát pod vedením sudcu Jeffa Watkinsa zistil, že dokument je plný „halucinácií“ – vymyslených prípadov, ktoré nikdy neexistovali.
Sudca Watkins zasiahol: zrušil pôvodné rozhodnutie a právnikovi udelil pokutu 2 500 dolárov. Nazval to „príkladom nebezpečných dôsledkov neriadeného používania AI v právnej praxi“.
A to nebol ojedinelý prípad. Vo februári iný právnik čelil podobnej situácii a vyfasoval pokutu až 15 000 USD. Právni experti upozorňujú, že takéto incidenty budú čoraz častejšie, najmä preto, že umelá inteligencia generuje text s presvedčivým tónom, oficiálnym slovníkom a realistickými názvami prípadov – aj keď sú úplne vymyslené.
Systém pod tlakom, realita neprehľadná
Sudcovia sú vo viacerých jurisdikciách doslova zavalení prácou a často sa spoliehajú na návrhy právnikov. Ak však tieto návrhy generuje AI bez overenia faktov, vzniká veľmi nebezpečný precedens. „Viem si predstaviť veľa situácií, keď má sudca plné ruky práce a jednoducho nemá kapacitu skontrolovať každý citovaný prípad,“ povedal John Browning, bývalý odvolací sudca v Texase a expert na AI etiku v práve.
A čo je ešte horšie – len máloktorý štát vôbec vyžaduje, aby sudcovia rozumeli technológiám umelej inteligencie. V súčasnosti to platí len pre Michigan a Západnú Virgíniu. Niektorí sudcovia síce zakázali používanie AI v podaniach alebo vyžadujú, aby bol jej pôvod jasne označený, no tieto opatrenia sú slabé a nejednotné.
Technológia napreduje, obrana zaostáva
Jazykové modely sú čoraz sofistikovanejšie. Znaky ako neexistujúce čísla prípadov, zvláštna formulácia alebo zle citované precedensy sa môžu časom stratiť pod hladkou fasádou „legitímne znejúceho“ dokumentu.
Našťastie, niektoré výskumné tímy, ako Polaris Lab z Princetonu, už pracujú na nástrojoch na sledovanie a overovanie pravosti právnych dokumentov. Iné návrhy hovoria o vytvorení „odmeňovacích systémov“, ktoré by motivovali právnikov, sudcov alebo analytikov odhaľovať falošné podania skôr, než sa stanú záväznými.
Hrozba pre spravodlivosť
Prípad z Georgie je jasným varovaním. Nie je to len o chybe jedného právnika – je to ukážka systémovej zraniteľnosti. Ak súdy začnú nekriticky prijímať právne podania vytvorené umelou inteligenciou bez dôslednej kontroly, môže to viesť k vážnemu narušeniu dôvery verejnosti v spravodlivosť.
Sudca Watkins to vystihol presne: „Ak sa halucinácie generované AI naďalej budú nekontrolovane dostávať do súdnych dokumentov, podkope to samotný základ nášho právneho systému.“
