Informationen zum Einsatz und Umgang mit KI an der UR

Die EU hat mit dem ?AI-Act“ (dt. ?KI-Verordnung“ (KI-VO)) einen einheitlichen Rahmen für den Einsatz von KI in der Europ?ischen Union verabschiedet. Das Ziel der Verordnung ist die Sicherstellung der sicheren, ethischen und verantwortungsvollen Nutzung von KI in allen Bereichen. Die Verordnung verfolgt einen risikobasierten Ansatz, welcher auf der Einstufung der KI-Systeme in vier Risikoklassen aufbaut. Im Bildungsbereich stuft die KI-VO bspw. die Nutzung von KI-Systemen, die bestimmungsgem?? für die Bewertung von Lernergebnissen oder zur ?berwachung und Erkennung von verbotenen Verhalten in Prüfungen eingesetzt werden, als Anwendungen mit hohem Risiko ein.

Zudem besteht nach Art. 50 KI-VO die Pflicht, auf den Einsatz der KI hinzuweisen, wenn (1) die Person mit einer KI interagiert, (2) von der KI generierte Inhalte pr?sentiert oder (3) von der KI Emotionen erfasst oder biometrische Daten kategorisiert werden. 百利宫_百利宫娱乐平台￥官网e sogenannten Transparenzpflichten treten aber erst zum 02.08.2026 in Kraft.

Die KI-VO hat somit hohe Relevanz für die UR, und zwar in zweierlei Hinsicht:

• Einerseits stellt die UR ihren Mitgliedern, z. B. mit dem Microsoft Copilot als Tool, das ChatGPT nutzt und damit?zur Formulierung von Texten oder zum Zusammenfassen von Texten verwendet werden kann, oder DeepL als ?bersetzungshilfe im Rahmen des TYPO3-Systems, KI-Systeme zur Anwendung bereit und ist im Sinne der Verordnung Betreiber der KI (Art. 3 KI-VO).
• Andererseits entwickeln Mitglieder der UR im Rahmen von Forschungsarbeiten oder der Lehre m?glicherweise eigenst?ndig KI-Systeme, die mitunter auch bestehende KI-Systeme (wie z. B. ChatGPT) nutzen. Wenn diese Eigenentwicklungen produktiv genutzt werden bspw., um im Rahmen einer wirtschaftlichen Kooperation einen KI-basierten Chatbot zu implementieren oder Studierende in Lerngruppen einzuteilen, dann tritt die UR als Anbieter von KI-Systemen im Sinne der Verordnung (Art. 3 KI-VO) auf.

Die EU-Verordnung trat mit Bekanntgabe am 1. August 2024 in Kraft und erlangt phasenweise Gültigkeit. Sechs Monate nach dem Inkrafttreten der KI-VO zum 02. Februar 2025 beginnen erste Verbote und Regelungen zu gelten.

Deshalb müssen die Mitglieder der UR

• sich Kompetenzen in der Anwendung und im Umgang mit KI-Systemen aneignen, wenn sie KI-Systeme (potenziell) nutzen.
• sicherstellen, dass keine KI-Systeme zum produktiven Einsatz kommen, welche verbotene Praktiken beinhalten. Dabei ist es unerheblich, ob es sich um ein nur innerhalb der Universit?t betriebenes KI-System (siehe erstes Beispiel der verbotenen Praktiken) handelt oder ob es ein KI-System ist, welches ?ffentlich verfügbar und nutzbar ist.

Die UR wird zudem einen Regelkatalog für die Einführung neuer KI-Systeme zur Verfügung stellen.

Konsequenzen ergeben sich bei Missachtung der Regelungen. Konkret,

• wenn der Schulungspflicht nicht nachgekommen wird und durch den Einsatz eines KI-Systems durch eine nicht-kompetente Person der UR ein Schaden entsteht,
• wenn Systeme mit verbotenen KI-Praktiken im produktiven Betrieb verwendet werden und mit Realweltdaten arbeiten.

Die Missachtung der Anforderung der Schulungspflicht oder der Verbote ist insbesondere im Schadensfall problematisch, da dieser in der Praxis auch h?ufig Ausl?ser für Bu?gelder ist. Jedoch ist ein Schaden nicht zwingende Voraussetzung, auch Verst??e gegen die Verhaltenspflichten k?nnen eine Sanktion nach der KI-VO auszul?sen.

Abschlie?end ist darauf hinzuweisen, dass die KI-VO in Erg?nzung zu bereits bestehenden Regelungen wie insbesondere der DSGVO zum Schutz der personenbezogenen Daten tritt. Verletzungen dieser Regelungen beim Einsatz eines KI-Systems k?nnen ebenfalls zu Sanktionen führen.

Unterschwellige Beeinflussung, absichtlich manipulative Techniken

Beispiel: Es werden durch eine KI personalisierte Empfehlungen für Lernmaterialien oder Kurse gegeben. Die KI schl?gt bestimmte Kurse oder Inhalte basierend auf wirtschaftlichen oder institutionellen Interessen anstatt auf den tats?chlichen Bedürfnissen der Studierenden vor.

Ausnutzung der Schutzbedürftigkeit einer Person

Beispiel: Es wird eine KI-basierte Beratungs-App verwendet, welche Studierenden bei Stress, Prüfungsangst oder pers?nlichen Problemen helfen soll. Statt neutral zu beraten, k?nnte sie subtile Verhaltensmuster ausnutzen, um Studierende zu beeinflussen und sie zu kostenpflichtigen Zusatzangeboten (z. B. Coaching-Kurse) zu dr?ngen.

Schlechterstellende Einstufung auf der Grundlage sozialen Verhaltens, pers?nlicher Eigenschaften oder Pers?nlichkeitsmerkmalen

Beispiel: Es wird ein KI-System eingesetzt, um Bewerbungen für ein F?rderprogramm oder einen bestimmten Studiengang zu bewerten. Die KI bezieht neben fachlichen Qualifikationen auch Pers?nlichkeitsmerkmale in die Bewertung der Bewerbungen ein, um die Zuteilung der Studierenden zu dem F?rderprogramm bzw. Studiengang vorzunehmen. Aufgrund des Blackbox-Charakters der KI bleibt jedoch undurchsichtig, wie genau diese Einstufungen zustande kommen. Zudem k?nnte ein Bias innerhalb der Trainingsdaten dazu führen, dass bestimmte Pers?nlichkeitsmerkmale systematisch schlechter bewertet werden. So k?nnten beispielsweise weniger extrovertierte Personen vom Algorithmus der KI benachteiligt werden, obwohl dieses Pers?nlichkeitsmerkmal keinen negativen Einfluss auf die auszuführende T?tigkeit hat.

Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen

Beispiel: Es wird ein KI-System eingesetzt, um die Leistung in einer Pr?sentation zu bewerten. Die KI misst Stimmh?he, Tonfall und Sprechtempo, um Nervosit?t oder Selbstbewusstsein zu erkennen und um darauf basierend zu bewerten, ob jemand überzeugend, unsicher oder ?ngstlich gewirkt hat. Auf diese Weise entsteht ein ?berwachungsdruck für die Person, denn auch Fehlinterpretationen der KI k?nnen zu falschen Bewertungen der Person führen.

Datenbank zur automatisierten Gesichtserkennung

Beispiel: Es wird ein KI-gestütztes Gesichtserkennungssystem eingesetzt, das Kameras auf dem gesamten Campus nutzt und auf eine Datenbank mit Gesichtsmerkmalen aller eingeschriebenen Studierenden zugreift. Jede Bewegung der Studierenden wird erfasst und auff?lliges Verhalten (z.B. Nichterscheinen zu Kursen) analysiert.

Biometrische Kategorisierung von Personen in sensiblen Bereichen

Beispiel: Es wird ein KI-System eingesetzt, dass das Tippverhalten der Mitarbeitenden analysiert, um Rückschlüsse auf deren psychische Gesundheit oder m?gliche Behinderungen zu ziehen. Solche Informationen k?nnten für Personalentscheidungen missbraucht werden.

Predictive Policing

Beispiel:?Es werden Videos von ?berwachungskameras mittels KI analysiert, um potenzielle Sicherheitsrisiken vorherzusagen. Die KI erkennt ?m?glicherweise verd?chtige“ Bewegungsmuster oder Gruppierungen auf dem Campus und nutzt Vergleichsdaten aus früheren Vorf?llen, um vorherzusagen, wer potenziell Regelverst??e wie z. B. Vandalismus oder Diebstahl begehen k?nnte. Einzelnen Personen k?nnten auf diese Weise falsche Absichten unterstellt werden.

Für alle, die sich mit den grundlegenden Prinzipien von KI vertraut machen m?chten.

KI-Anwendungen speziell für den ?ffentlichen Sektor.

Ans?tze und Tipps für den sinnvollen Einsatz von KI in der Forschung.

Didaktische und methodische Ans?tze für den sinnvollen Einsatz von KI im Bildungsbereich.

Praxisorientierte, nützliche KI-Werkzeuge für verschiedene Anwendungsszenarien.

Spannende Vortr?ge und interaktive Veranstaltungen zum AI-Act und weiteren KI-relevanten Themen.