Može li AI biti član uprave i voditi poslovanje? Što dopušta estonsko trgovačko pravo

აგენტski AI sada piše dobavljačima, usklađuje bankovne izvode i pokreće plaćanja. Tehnološki lideri govore o „jednočlanom društvu vrijednom milijardu dolara”. Za estonsko društvo koje već posluje online, a kojim često upravlja e-resident osnivač iz inozemstva, sljedeći korak izgleda očit: prepustiti autonomnom agentu da ga vodi.

Dosadašnji su pokušaji poput ovoga dospjeli u medije, a ne u pravo. Kada je hongkonška venture tvrtka objavila da će algoritam biti član uprave, budući AI direktor nije mogao biti imenovan prema lokalnom pravu te je ostao u ulozi promatrača.

Može li AI biti član uprave? Što kaže estonsko trgovačko pravo

Trgovački zakonik (Äriseadustik) rješava pitanje jednom rečenicom. Prema § 180(2), član uprave estonskog društva s ograničenom odgovornošću (OÜ) ne mora biti član društva, ali mora biti fizička osoba s aktivnom poslovnom sposobnošću.

AI nije osoba u pravnom smislu, stoga se AI ne može imenovati članom uprave niti može imati čak i punomoć. Ne može se ni postaviti iza društva, jer pravna osoba uopće ne može biti član estonske uprave. Vlasništvo slijedi istu logiku:

Naš vodič o ulozi člana uprave detaljno objašnjava obveze te funkcije.

Može li AI samostalno voditi društvo? Test društva bez osoba

Još ne, i ne pravno. KPMG i Sveučilište u Amsterdamu testiraju „društvo bez osoba”: internetsku trgovinu koju vodi AI CEO, a nadzire ljudski nadzorni odbor. Kada su agenti dobili pune izvršne uloge poput CFO, odstupali su od zadatka, izmišljali činjenice i ignorirali upute. Stvari su počele funkcionirati tek kada su procesi podijeljeni na male zadatke za usko specijalizirane agente, uz ljude koji postavljaju granice.

Estonsko pravo upućuje na isto. AI može svakodnevno voditi poslovanje, ali ne bez ljudi. Estonski OÜ može nemati zaposlenika, no njegov najmanji zakonski temelj jest jedna osoba koja istodobno djeluje kao član društva, direktor i stvarni vlasnik. Zamjena osoblja „AI zaposlenicima” jednostavna je jer softveru ne treba ugovor o radu i ne podliježe porezu na plaće. Ipak, dvije se stvari ne mijenjaju:

• Porezno tijelo i banke traže ljude. Kada društvo podnosi zahtjev za estonski PDV broj (KMKR) ili bankovni račun, pitaju tko stvarno vodi poslovanje i odakle. Društvo čije je jedino „osoblje” softver trebalo bi biti spremno na ta pitanja; pogledajte zašto se odbija dodjela PDV brojeva.
• AI ne mijenja mjesto iz kojeg se društvom upravlja. Za porezne svrhe važno je gdje rade ljudi koji donose ključne odluke. Osnivač u inozemstvu koji vodi estonsko društvo putem AI agenata i dalje može stvoriti oporezivu prisutnost u državi u kojoj živi, kako objašnjava naš vodič o vođenju estonskog društva iz inozemstva.

Što AI agenti mogu automatizirati u estonskom društvu

Zakon povlači jasnu granicu. Radnje pridržane osobi ostaju u nadležnosti osobe, a rad oko njih može se prepustiti AI-u.

Koje god alate koristili, jedno pravilo vrijedi: nikada agentu ne dajte svoje PIN kodove. Kvalificirani e-potpis ima isti pravni učinak kao vlastoručni potpis, pa se sve potpisano vašim kodovima smatra vašim potpisom.

Upotreba AI-a za upravljanje zaposlenicima

Upravljanje ljudima najosjetljivija je poslovna uporaba AI-a. EU AI Act sustave koji se koriste za zapošljavanje, odlučivanje o napredovanju ili otkazu, dodjelu zadataka na temelju osobnih obilježja ili praćenje uspješnosti svrstava u visokorizične. Poslodavac mora obavijestiti osoblje prije uporabe takvog sustava. AI koji zaključuje o emocijama zaposlenika na poslu potpuno je zabranjen, osim iz medicinskih ili sigurnosnih razloga. GDPR također daje osobama pravo da ne budu podvrgnute značajnim odlukama donesenima isključivo automatiziranim sredstvima. AI može organizirati rad, ali odluke o ljudima trebala bi donositi osoba. Naš članak o nadzoru AI Acta u Estoniji objašnjava tko provodi ta pravila.

Odgovornost AI agenta: tko plaća ugovore, plaćanja i pogreške agenta?

U pravnom smislu AI agent je alat, poput knjigovodstvenog softvera ili naplate u internetskoj trgovini. Kada pogriješi, od tri se strane može tražiti plaćanje: od društva, njegova direktora i pružatelja AI-a.

Društvo je vezano ugovorima i plaćanjima svojeg AI agenta

Izjava poslana automatiziranim sustavom smatra se izjavom poslovnog subjekta koji njime upravlja. Ako vaš agent prihvati ponudu ili plati račun unutar ovlasti koje ste mu dali, društvo je postupilo. Ugovor se zbog pogreške može poništiti samo u uskim slučajevima.

Društvo odgovara i kada njegov agent prekrši pravila. U testu koji je proveo Andon Labs, AI trgovac odbijao je povrate novca koje je obećao i predlagao dogovaranje cijena konkurentima. U stvarnom poslovanju zahtjevi potrošača i kazne za tržišno natjecanje teretili bi društvo, a ne softver.

Direktor odgovara za način postavljanja agenta

Prema § 187 Trgovačkog zakonika, član uprave mora djelovati pažnjom razumnog gospodarstvenika. Članovi uprave koji društvu prouzroče štetu kršenjem svojih obveza za nju odgovaraju solidarno, a član uprave oslobađa se odgovornosti samo ako dokaže da je postupao s tom pažnjom. „Agent je to učinio” nije obrana. Sud bi pitao je li alat bio razuman izbor, jesu li mu ovlasti bile ograničene i je li itko provjeravao njegov rad.

Neplaćeni porezi mogu teretiti i direktora. Ako je dug nastao zato što je direktor namjerno ili krajnjom nepažnjom prekršio svoje obveze, Porezna i carinska uprava može ga naplatiti osobno od njega prema § 40 Zakona o oporezivanju.

Pružatelj AI-a rijetko plaća

Pružatelji AI-a obično strogo ograničavaju svoju odgovornost u uvjetima pružanja usluge, a revidirana EU Direktiva o odgovornosti za proizvode naknađuje štetu samo fizičkim osobama, ne i poslovne gubitke društva.

Tablica u nastavku pokazuje tko snosi gubitak u tri tipična slučaja.

Kako sigurno delegirati AI agentu: pet zaštitnih mjera za upravu

Ove zaštitne mjere pretvaraju otvoreni rizik u upravljani, a svaka je ujedno dokaz dužne pažnje:

1. Zapišite mandat. Odluka uprave u kojoj se navodi što agent smije činiti i do kojeg iznosa.
2. Ograničite novac. Zaseban račun, virtualna kartica ili ograničenja plaćanja, uz ljudsko odobrenje iznad zadanog praga.
3. Čuvajte zapise. Što je od agenta zatraženo, što je učinio i što je poslao.
4. Iznimke usmjerite osobi. Novi ugovorni partneri, neuobičajeni uvjeti, veliki iznosi i svaka odluka o ljudima.
5. Provjerite pružatelja i svoje osiguranje. Ograničenja odgovornosti, uvjete o podacima te pokriva li vaše osiguranje odgovornosti direktora ili cyber polica gubitke uzrokovane automatiziranim sustavima.

Hoće li AI ikada dobiti pravnu osobnost i mjesto u upravi?

Ne u doglednoj budućnosti, stoga će AI član uprave ostati ideja, a ne upis u registar. Stručna skupina Europske komisije za odgovornost zaključila je da AI-u ne treba pravna osobnost jer se svaka šteta koju prouzroči može pripisati postojećim ljudima ili organizacijama. Stručnjaci koji stoje iza estonske nacionalne AI strategije zauzeli su isto stajalište. AI Act uređuje umjetnu inteligenciju kao proizvod, s obvezama za one koji je razvijaju i upotrebljavaju, kako objašnjava naš vodič za EU AI Act za društva.

Čak i Wyoming, savezna država SAD-a koja dopušta da DAO društvom „algoritamski upravljaju” pametni ugovori, zahtijeva da ti ugovori ostanu nadogradivi i da društvo zadrži registriranog agenta, pa ljudi ostaju pod kontrolom. AI će preuzimati sve više posla, ali imenovana osoba i dalje će odgovarati za njega.

Osnivanje AI-first društva u Estoniji uz pravnu podršku

Estonija je jedno od najjednostavnijih mjesta u Europi za vođenje potpuno digitalnog društva, a AI-first poslovni model dobro joj odgovara, pod uvjetom da je ljudska strana od početka pravilno postavljena. Odvjetnici Eesti Firma mogu pregledati kako namjeravate upotrebljavati AI agente u svojem društvu. Možemo sastaviti odluku uprave kojom se određuje mandat agenta, provjeriti uvjete pružatelja i procijeniti što AI Act i GDPR zahtijevaju u vašem slučaju. Ako tek počinjete, možemo i registrirati vaše estonsko društvo s upravljačkom strukturom koja odgovara načinu na koji namjeravate raditi.

Pošaljite zahtjev

Često postavljana pitanja