Etika a právo
Akt o umelej inteligencii
po anglicky: AI Act
Nariadenie EÚ, ktoré delí systémy AI podľa miery rizika a zavádza sa postupne.
Akt o umelej inteligencii je nariadenie Európskej únie, ktoré ako prvé na svete komplexne reguluje AI. Prijaté bolo v roku 2024 a jeho pravidlá sa zavádzajú postupne v priebehu niekoľkých rokov.
Základná myšlienka je delenie podľa rizika. Nariadenie nereguluje technológiu ako takú, ale to, na čo sa použije. Ten istý model môže byť v jednej aplikácii bez obmedzení a v druhej pod prísnymi pravidlami.
| Úroveň rizika | Čo do nej patrí |
|---|---|
| Neprijateľné, zakázané | Sociálne skórovanie ľudí, manipulácia zneužívajúca zraniteľnosť |
| Vysoké, prísne pravidlá | AI vo vzdelávaní, v zamestnávaní, v zdravotníctve, v justícii |
| Obmedzené, povinnosť informovať | Chatboty a generovaný obsah, ktoré majú byť označené |
| Minimálne, bez osobitných pravidiel | Filtre na spam, odporúčanie hudby, hry |
Prečo sa to školy dotýka priamo
Vzdelávanie je v nariadení uvedené medzi oblasťami s vysokým rizikom. Vzťahuje sa to na systémy, ktoré rozhodujú o prijatí, o hodnotení alebo o zaradení žiaka.
Bežné použitie chatbota na prípravu hodiny do tejto kategórie nepatrí. Rozdiel je v tom, či nástroj o žiakovi rozhoduje, alebo len pomáha učiteľovi s textom.
Nariadenie sa nevzťahuje len na európske firmy. Platí pre každého, kto svoje systémy nasadzuje na trh Európskej únie, podobne ako GDPR. Preto sa označovanie generovaného obsahu objavuje aj v amerických nástrojoch.
Najpraktickejším dôsledkom je zatiaľ povinnosť transparentnosti: ak s používateľom hovorí AI, má to vedieť.