Hochrisiko KI

Der Begriff **„Hoch­ri­si­ko-KI“** bezeich­net im Rah­men des EU-KI-Geset­zes (AI Act) Sys­te­me, die ein erheb­li­ches Gefähr­dungs­po­ten­zi­al für die Gesund­heit, Sicher­heit oder die Grund­rech­te von Per­so­nen auf­wei­sen. Sol­che Anwen­dun­gen fin­den sich ins­be­son­de­re in sen­si­blen Berei­chen wie der kri­ti­schen Infra­struk­tur, dem Bil­dungs­we­sen, der Straf­ver­fol­gung oder dem Per­so­nal­ma­nage­ment. Auf­grund ihres Risi­ko­pro­fils unter­lie­gen die­se Sys­te­me stren­gen gesetz­li­chen Anfor­de­run­gen, die unter ande­rem eine hohe Daten­qua­li­tät, mensch­li­che Auf­sicht und eine lücken­lo­se tech­ni­sche Doku­men­ta­ti­on vor­schrei­ben. Ziel die­ser Ein­stu­fung ist es, den Schutz der Bür­ger zu gewähr­leis­ten, wäh­rend gleich­zei­tig ein kla­rer recht­li­cher Rah­men für den Ein­satz die­ser Tech­no­lo­gien geschaf­fen wird.