
18 19
use-cases künstlicher Intelligenz befassen müssen, sondern dass sie
gleichfalls Bedarfsträger für Kompetenzen im Umgang mit künstli-
cher Intelligenz sind. Das Konzept dieser KI-Kompetenz selbst wird
in Artikel 3 Nr. 56 legaldeniert als „die Fähigkeiten, die Kenntnisse
und das Verständnis, die es Anbietern, Betreibern und Betroenen
unter Berücksichtigung ihrer jeweiligen Rechte und Pichten im
Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig
einzusetzen sowie sich der Chancen und Risiken von KI und mög-
licher Schäden, die sie verursachen kann, bewusst zu werden.“
Weil es bei der geforderten KI-Kompetenz also nicht nur um das
Verständnis und die Beherrschung der Bedienung der jeweiligen
Komponenten gehen kann, bedarf es einer integrierten interdiszi-
plinären Bedarfsdeckung. Eine solche muss von den Hochschulen
und den polizeilichen Aus- und Fortbildungseinrichtungen geleistet
werden können. Der Artikel 4 AIA ist Teil einer umfassenderen Ver-
pichtung zur Kompetenzentwicklung. Die Vorschri muss daher im
Zusammenhang mit anderen Regelungen gesehen werden, wenn es
beispielsweise um die menschliche Aufsicht, die Picht zur Erstel-
lung technischer Dokumentationen oder das Recht auf Erläuterung
individueller Entscheidungen geht [7, S. 1]. Der AIA verfolgt grund-
sätzlich einen risikobasierten Ansatz. Daraus folgt, dass sowohl der
Umfang der Regulierung von der Intensität der vom KI-System aus-
gehenden Risiken abhängt [9, RdNr. 15] als auch die Anforderungen,
die an die KI-Kompetenzen zu stellen sind, im Lichte dieser Risiken
zu entwickeln und vorzuhalten sind. Als Ziel lässt sich somit eine
Trias der KI-Kompetenz, bestehend aus Fähigkeit, Kenntnis und Ver-
ständnis, herauslesen [16, S. 100]. Der Erwägungsgrund 20 des AIA
sucht die Konkordanz zwischen dem Nutzen und den Risiken sowie
den grundrechtlichen Gewährleistungen und der demokratischen
Kontrolle darin, dass die mit dem Umgang mit KI-Systemen be-
trauten Menschen befähigt werden, fundierte Entscheidungen über
KI-Systeme zu treen. Besondere Bedeutung erhält gerade für den
Gebrauch im polizeilichen Einsatz der Erwägungsgrund 73, der sich
mit der KI-Kompetenz für Hochrisikosysteme, wie sie in Art. 6 AIA de-
niert sind, auseinandersetzt. Die im Anhang III zum AIA aufgeführ-
ten use-cases, die dem polizeilichen Gebrauch dienen können, sind
daher in der Regel solche Hochrisikosysteme. Zwar sollte angesichts
der Besonderheiten in den Bereichen von Strafverfolgung, Migrati-
on, Grenzkontrolle und Asyl die weitgehende Anforderung dieses Er-
wägungsgrundes nicht gelten. Dafür wäre aber Voraussetzung, dass
die Geltung dieser Anforderung nach Unionsrecht oder nationalem
Recht unverhältnismäßig wäre. Im Übrigen bleibt es dabei, dass
natürliche Personen die Funktionsweise eines solchen KI-Systems
überwachen und sicherstellen können müssen, dass dieses auch be-
stimmungsgemäß verwendet wird und dessen Auswirkungen wäh-
rend des gesamten Lebenszyklus berücksichtigt werden können.
Diese Rahmenbedingungen wiederum, die von den Polizeien als Be-
darfsträger für Kompetenzaufbau an die Hochschulen herangetra-
gen werden müssen, stellen sowohl Lehrende als auch Lernende vor
weitere Herausforderungen. Dabei ist einerseits zu dierenzieren
zwischen der KI als Gegenstand der Lehre und der KI als Mittel der
Lehre, andererseits aber auch zwischen den Rollen der Beteiligten
im Lehr- und Lernprozess. Die Chancen und Hürden des KI-Einsatzes
unterscheiden sich bei Lehrenden und Lernenden. Die Möglichkei-
ten, die der Einsatz von KI-Systemen in der Lehre bieten kann, sind
dabei vielfältig. Für die Lernenden geht der Anwendungsbereich
weit über das Erstellen(lassen) von Texten hinaus. Generative KI
kann als persönlicher Lernassistent [25, S. 17.] bei der Unterstüt-
zung kognitiver und metakognitiver Fähigkeiten eingesetzt werden
[25, S. 10]. Kluges Prompting kann auch bei der Vorbereitung von
Prüfungen oder im Prozess bei der Anfertigung wissenschalicher
Arbeiten genutzt werden [25, S. 13]. Für die Lehre selbst ergibt sich
eine vielfältige Erweiterung von Möglichkeiten von der Gestaltung
von Unterrichtseinheiten bis hin zu Prüfungsformaten.
Darüber hinaus hat der Einsatz von KI selbst Auswirkungen auf die
Lehr-Lernbeziehung [24, S. 158]. Allerdings darf auch hier nicht ver-
gessen werden, dass KI-gesteuerte Tools zur Lehr- und Lernunter-
stützung zwar wertvolle Erkenntnisse und Automatisierung bieten,
aber nicht das fundierte Fachwissen von Lehrkräen zu ersetzen
vermögen. Im hochschulischen Bildungsprozess kommt es daher
noch stärker darauf an, dass das menschliche Urteilsvermögen, die
individuelle Erfahrung und das Verständnis für den Kontext der kon-
kreten Kompetenzziele integrale Bestandteile von Aus-, Fort- und
Weiterbildung sind [14, S. 494]. Hieraus folgt, dass die Lehrenden