Ką AI ir „blockchain“ reiškia teisinei valstybei? – „TechCrunch“

Skaitmeninės paslaugos dažnai susiduria su teisinės valstybės principais, jei ne prieštaravimais. Bet kas nutinka, kai tokios technologijos kaip gilaus mokymosi programinė įranga ir savarankiškai vykdomas kodas yra teisinių sprendimų varomoji vieta?

Kaip galime būti tikri, kad naujos kartos „teisinių technologijų“ sistemos nėra neteisingai šališkos prieš tam tikras grupes ar asmenis? Kokius įgūdžius teisininkai turės išsiugdyti, kad galėtų tinkamai įvertinti teisingumo, kylančio iš duomenimis pagrįstų sprendimų, kokybę?

Nors verslininkai jau keletą metų stebi tradicinius teisinius procesus, o jų akyse spindi sąnaudų mažinimas ir lūpose žodis „racionalizuoti“, šis ankstyvasis teisinių naujovių etapas reikšmingas ne tik transformuojamojo intelekto intelekto technologijų potencialo atžvilgiu. jau stumdami savo algoritminius pirštus į teisinius procesus – ir galbūt proceso metu perkelia patį įstatymo braižą.

Bet kaip galima apsaugoti teisinę apsaugą, jei sprendimus automatizuoja algoritminiai modeliai, mokomi remiantis atskirais duomenų rinkiniais – arba kyla iš politikos, administruojamos įterpiant į blokų grandinę?

Tai yra tokie klausimai, su kuriais teisininkas ir filosofas Mireille’as Hildebrandtas, Teisės, mokslo, technologijų ir visuomenės tyrimų grupės profesorius, Briuselio Vrije Universiteit, Belgijoje, atsakys per penkerius metus truksiantį projektą, kurio tikslas – ištirti, kas ji supranta „skaičiavimo teisę“.

Praėjusį mėnesį Europos mokslinių tyrimų taryba skyrė Hildebrandtui dotaciją €2,5 mln., Norint atlikti pagrindinius tyrimus, susijusius su dviem technologijomis: dirbtinis teisinis intelektas ir teisinis „blockchain“ pritaikymas.

Aptardama savo mokslinių tyrimų planą su „TechCrunch“, ji apibūdina projektą kaip labai abstraktų ir labai praktišką, su personalu, kuriame dalyvaus ir teisininkai, ir informatikai. Ji sako, kad ji ketina pasiūlyti naują teisinę hermeneutiką – taigi, pagrindą teisininkams, kad jie galėtų protingai kreiptis į kompiuterinės teisės architektūras; suprasti apribojimus ir pasekmes bei mokėti užduoti teisingus klausimus, kad būtų galima įvertinti technologijas, kurios vis dažniau naudojamos mums vertinant.

„Idėja yra ta, kad teisininkai susiburia su informatikais, kad suprastų, prieš ką jie susiduria“, – paaiškina ji. „Noriu užmegzti tą pokalbį … Noriu, kad analitiškai pageidautini labai aštrūs ir filosofiškai suinteresuoti teisininkai susitiktų su informatikais ir iš tikrųjų suprastų vienas kito kalbą.

„Mes nekursime bendros kalbos. Aš tai įsitikinsiu. Bet jie turi mokėti suprasti, kokia yra termino prasmė kitoje disciplinoje, ir išmokti žaisti, gerai pasakyti, pamatyti abiejų sričių sudėtingumą, vengti bandyti viską padaryti labai paprastą .

„Ir pamatęs sudėtingumą, tada galėsi paaiškinti tai taip, kad žmonės, kurie iš tikrųjų yra svarbūs – tai yra mes, piliečiai, galėtų priimti sprendimus tiek politiniu lygmeniu, tiek kasdieniame gyvenime“.

Hildebrandt sako, kad ji įtraukė tiek AI, tiek „blockchain“ technologijas į projekto sritį, nes jose siūlomi „du labai skirtingi skaičiavimo įstatymų tipai“.

Be abejo, yra tikimybė, kad abu bus taikomi kartu – sukuriant „visiškai naują rizikos ir galimybių rinkinį“ teisinių technologijų aplinkoje.

„Blockchain“ užšaldo ateitį “, teigia Hildebrandt, pripažindama, kad tai technologija, kurią ji skeptiškiau vertina šiame kontekste. „Kai įdėsite jį į„ blockchain “, labai sunku apsigalvoti, o jei šios taisyklės sustiprins save, tai bus labai brangus reikalas tiek pinigų, tiek pastangų, laiko, painiavos ir netikrumo atžvilgiu. jei norėtum tai pakeisti.

„Galima padaryti šakę, bet ne, manau, kai dalyvauja vyriausybės. Jie negali tik šakėti “.

Be to, ji teigia, kad „blockchain“ tam tikru momentu ateityje gali būti laikoma patraukliu alternatyviu mechanizmu valstybėms ir įmonėms atsiskaityti už mažiau sudėtingą sistemą, pavyzdžiui, nustatant įsipareigojimus pagal pasaulinius mokesčių įstatymus. (Darant prielaidą, kad tokį susitarimą tikrai galima pasiekti.)

Atsižvelgiant į tai, kaip sudėtinga teisinė atitiktis jau gali būti interneto platformoms, veikiančioms tarpvalstybiniu mastu ir besikertančioms su skirtingomis jurisdikcijomis, bei politinių lūkesčių, gali atsirasti momentas, kai manoma, kad reikalinga nauja taisyklių taikymo sistema – ir vienas iš būdų reaguoti gali būti „blockchain“ politikos įgyvendinimas prie viso chaotiško sutapimo.

Nors Hildebrandtas atsargiai vertina „blockchain“ pagrįstų sistemų teisinio laikymosi idėją.

Tai kita projekto sritis – dirbtinio intelekto intelektas – kurioje ji aiškiai mato didelį potencialą, nors, be abejo, taip pat rizikuoja. „Dirbtinio intelekto intelektas reiškia, kad jūs naudojate mašininį mokymąsi, kad atliktumėte argumentų kasybą, taigi jūs natūraliai apdorojate daugybę teisinių tekstų ir bandote aptikti argumentavimo linijas“, – paaiškina ji, nurodydama pavyzdį, kai reikia spręsti, ar konkretus asmuo yra rangovas arba darbuotojas.

„Tai turi milžiniškų pasekmių JAV ir Kanadoje tiek darbdaviui, tiek darbuotojui, ir jei jis neteisingai pasielgs, mokesčių inspekcija gali tiesiog įeiti ir paskirti jiems milžinišką baudą ir susigrąžinti daug pinigų, kuriuos gali neturėti “.

Dėl supainiotos teismų praktikos toje srityje Toronto universiteto mokslininkai sukūrė dirbtinį intelektą, kad galėtų pabandyti padėti – išminuodami daugybę susijusių teisinių tekstų, kad konkrečioje situacijoje sukurtų funkcijų rinkinį, kurį būtų galima naudoti norint patikrinti, ar asmuo yra darbuotojas, ar ne.

„Jie iš esmės ieško matematinės funkcijos, kuri sujungtų įvesties duomenis – tiek daug teisinių tekstų – su išvesties duomenimis, šiuo atveju nesvarbu, ar esate darbuotojas, ar rangovas. Ir jei ta matematinė funkcija jūsų duomenų rinkinyje visą laiką arba beveik visą laiką ją teisingai pavadinsite, tai vadinate dideliu tikslumu, tada mes išbandysime naujus duomenis arba duomenis, kurie buvo laikomi atskirai, ir pamatysite, ar jie ir toliau yra labai tikslūs. “

Atsižvelgiant į tai, kad dirbtinis intelektas remiasi duomenų rinkiniais, kad gautų algoritminius modelius, kurie naudojami automatiniams teismo skambučiams atlikti, teisininkai turės suprasti, kaip kreiptis į šias technologines struktūras ir jas apklausti, siekiant nustatyti, ar dirbtinis intelektas yra teisiškai pagrįstas, ar ne.

Didelis tikslumas, kuris nėra generuojamas šališku duomenų rinkiniu, negali būti „malonu turėti“, jei jūsų dirbtinis intelektas dalyvauja priimant teisinius sprendimus žmonėms.

„Technologijos, kurios bus naudojamos, arba teisinė technologija, į kurią dabar investuojama, pareikalaus teisininkų išaiškinti galutinius rezultatus, taigi, užuot sakę„ o, oho, tai turi 98% tikslumą ir lenkia geriausius advokatus! “ jie turėtų pasakyti: „Ak, gerai, ar galėtumėte parodyti man atliktų rezultatų metrikos rinkinį, kurį išbandėte. Ak, ačiū, tai kodėl įdėjote šiuos keturis į stalčių, nes jų tikslumas mažas? … Ar galite parodyti savo duomenų rinkinį? Kas nutiko hipotezių erdvėje? Kodėl filtravote tuos argumentus? “

„Tai yra pokalbis, kuris iš tikrųjų reikalauja, kad teisininkai susidomėtų ir šiek tiek linksmintųsi. Tai labai rimtas verslas, nes teisiniai sprendimai daro didelę įtaką žmonių gyvenimams, tačiau idėja yra ta, kad teisininkai turėtų pradėti linksmintis aiškindami dirbtinio intelekto rezultatus įstatymuose. Jie turėtų galėti rimtai kalbėtis apie savarankiškai vykdomo kodo apribojimus – taigi kita projekto dalis [i.e. legal applications of blockchain tech].

„Jei kas nors sako„ nekintamumas “, jie turėtų galėti pasakyti, tai reiškia, kad jei viską įdėsite į„ blockchain “, staiga aptiksite klaidą, kad klaida bus automatizuota ir tai jums kainuos neįtikėtinai daug pinigų ir pastangų, kad ją ištaisytumėte … Arba „nepasitikintys“ – taigi jūs sakote, kad neturėtume pasitikėti institucijomis, bet turėtume pasitikėti nesuprantama programine įranga, turėtume pasitikėti visokiais tarpininkais, ty kalnakasiais, neturinčiais leidimo, arba kitais tarpininkais, kurie yra kitų rūšių paskirstytose knygose … “

„Noriu, kad teisininkai turėtų ten amunicijos, turėtų svarių argumentų … kad iš tikrųjų suprastų, ką reiškia šališkumas mokantis mašinoje“, – tęsia ji ir pateikia pavyzdį tyrimams, kuriuos Niujorko „AI Now“ institutas atlieka skirtingiems tyrimams. poveikis ir gydymas, susijęs su PG sistemomis.

„Tai yra viena konkreti problema, bet manau, kad yra daug daugiau problemų“, – priduria ji algoritminę diskriminaciją. „Taigi šio projekto tikslas yra iš tikrųjų susiburti, tai suprasti.

„Manau, kad advokatams yra nepaprastai svarbu netapti informatikais ar statistais, bet iš tikrųjų įsitraukti į tai, kas vyksta, tada sugebėti tuo pasidalinti, iš tikrųjų prisidėti prie teisinio metodo, kuris yra orientuotas į tekstą. Aš visi už tekstą, bet mes turime tarsi apsispręsti, kai galime sau leisti naudoti ne teksto reguliavimą. Aš iš tikrųjų sakyčiau, kad tai nėra įstatymas.

„Taigi kaip turėtų būti pusiausvyra tarp to, ką mes iš tikrųjų galime suprasti, tai yra tekstas, ir šių kitų metodų, kurių teisininkai nėra apmokyti suprasti … Ir piliečiai taip pat nesupranta“.

Hildebrandtas iš tikrųjų mato galimybes, kaip dirbtinio intelekto argumentų kasyba būtų „naudojama gero labui“ – sakydamas, pavyzdžiui, dirbtinis intelektas galėtų būti naudojamas vertinant konkretaus teismo priimtų sprendimų kalibrą.

Nors ji taip pat perspėja, kad kuriant bet kokias tokias sistemas reikėtų labai pagalvoti.

„Kvailumas būtų tiesiog suteikti algoritmui daug duomenų, tada juos išmokyti ir tada pasakyti„ ei taip, nesąžininga, o ko neleidžiama “. Bet jūs taip pat galėtumėte giliai pagalvoti, į kokius vektorius turite žiūrėti, kaip juos pažymėti. Tada galite sužinoti, kad, pavyzdžiui, teismas skiria daug griežtesnes bausmes, nes policija neteikia paprastų bylų teismui, tačiau tai labai gera policija ir jie kalba su žmonėmis, taigi, jei žmonės nepadarė kažko tikrai baisaus, bandykite tą problemą išspręsti kitu būdu, o ne naudodamiesi įstatymais. Tada šis konkretus teismas gauna tik labai sunkias bylas, todėl skiria daug sunkesnes bausmes nei kiti teismai, kurie gauna iš savo policijos ar prokuroro visas gyvenimo bylas.

„Norėdami pamatyti, kad turėtumėte ne tik žiūrėti į teisinius tekstus. Taip pat turite pasidomėti policijos duomenimis. Jei to nepadarysite, galite gauti labai aukštą tikslumą ir visiškai beprasmišką rezultatą, kuris jums nepasako nieko, ko dar nežinojote. Ir jei tai darote kitu būdu, galite tarsi supriešinti žmones su savo prietarais ir padaryti tai įdomų – užginčyti tam tikrus dalykus. Bet tokiu būdu, kuris per daug savaime suprantamas dalykas nėra. Mano idėja būtų ta, kad vienintelis būdas tai suveikti yra sukonstruoti daug skirtingų žmonių sistemos projektavimo etape – taigi, kai jūs nusprendžiate, kuriuos duomenis mokysite, kai kursite tai, ką mašinų mokiniai vadina jūsų „hipotezės erdve“, taigi modeliavimo tipą, kurį bandysite ir atliksite. Tada, žinoma, turėtumėte išbandyti penkis, šešis, septynis veiklos rodiklius.

„Ir apie tai taip pat turėtų kalbėti žmonės – ne tik duomenų mokslininkai, bet, pavyzdžiui, teisininkai, bet ir piliečiai, kuriuos palies tai, ką darome įstatymuose. Esu visiškai įsitikinęs, kad jei tai darote protingai, gausite daug patikimesnių programų. Bet paskata taip elgtis galbūt nėra akivaizdi. Nes manau, kad teisinės technologijos bus naudojamos sąnaudoms sumažinti “.

Ji sako, kad viena pagrindinių tyrimo projekto sąvokų yra teisinė apsauga projektuojant – atveriant kitus įdomius (ir ne ką mažiau nerimą keliančius) klausimus, pavyzdžiui, kas nutinka nekaltumo prezumpcijai dirbtinio intelekto kuriamajame pasaulyje „iki nusikaltimo“. detektoriai?

„Kaip jūs galite suprojektuoti šias sistemas taip, kad jos pasiūlytų teisinę apsaugą nuo pat pirmos patekimo į rinką minutės, o ne kaip priedą ar įskiepį. Ir tai ne tik duomenų apsauga, bet ir ne diskriminacija ir tam tikros vartotojų teisės “, – sako ji.

„Aš visada manau, kad nekaltumo prezumpcija turi būti susieta su teisine apsauga pagal dizainą. Taigi tai labiau policijos ir žvalgybos tarnybų pusėje – kaip jūs galite padėti žvalgybos tarnyboms ir …