Why KI?

Heute?

Workshop III - 06.06.

Onboarding

Pause gut überstanden?

Dringende Fragen, die zu klären sind?

Worum geht es heute?

Nach Technik und Funktionsweise soll es heute um eher 'weiche' Faktoren gehen.

- gesellschaftliche und ethische Herausforderungen

- Einsatzmöglichkeiten und Grenzen

- Entscheidungshilfen

- Rechtliches

Aber der Einstieg heute:

Gesundheitsbezogene Apps

(KI-Gehalt???)

Ach ja - Wichtig:

- Heute keine Mathematik!!!

Was sind Gesundheitsapps?

-Eine genaue Definition gibt es nicht!

-Grobe Definition: Alle Anwedungen, die sich mit Gesundheit beschäftigen.

-In den App-Stores gibt es unzählige Apps unter dem Stichwort.

Wie soll man sich da zurecht finden?

-Was ist ggf. hilfreich, was ist Schrott, was ist eher Gefahr als Hilfe?

-Das ist kaum zu überblicken!

-Aber es gibt ein paar Hilfestellungen.

Einteilung

1. 'freie' Apps

-Unüberschaubare Masse in den App-Stores

-Praktisch können wir als User kaum einschätzen, was dahintersteckt.

-Sind es große Firmen, kleine unbekannte Entwickler? Es lässt sich kaum überblicken.

Einteilung

2. Apps aus 'vertrauenswürdigen' Umgebungen

-z.B. von Selbsthilfeorganisationen herausgegeben

-Behörden und Organisationen (z.B. Verbraucherzentrale, rki...).

Einteilung

3. DiGas

-Digitale Gesundheitsanwendungen

-Vom Gesundheitssystem anerkannt

-Über KK zu verordnen.

-Zumindest rudimentär ist der Nutzen nachgewiesen.

Was hat das mit KI zu tun?

Viele der Apps werben mit "KI"

-wir haben letztlich keine Möglichkeit, nachzuprüfen und zu hinterfragen.

-Ist das KI?

-wenn ja, was für eine Form von KI?

ADA

Als Beispiel wollen wir uns eine App mal anschauen.

-ohne, dass wir die besonders empfehlen wollen o.ä.

-Ist das KI?

ADA-Website.

Rechtsfragen zu KI

Herausforderungen

Welche Fragen sollten wir uns stellen, wenn wir Werkzeuge der 'KI' einsetzen wollen - gerade als gemeinnützige Unternehmen?

Sind nicht gerade WIR da besonders gefragt?

Weil:

-wenn nicht wir - wer dann?

-Sam Altmann und Elon Musk kümmern sich nicht darum.

-Und auch sonst niemand aus Big-Tec..

Welche Fragen sollten wir uns stellen?

Aktuell ploppt "KI" überall auf

Man kommt kaum drum herum

-zumindest nicht, ohne sich anzustrengen.

## Überlegungen

KI ist kein Selbstzweck, sondern vielmehr eine Palette verschiedener Werkzeuge, die sich für die Bearbeitung unterschiedlicher Aufgaben eignen **können**.

Die Entscheidung für den Einsatz von KI-Anwendungen kann daher nicht pauschal getroffen und sollte stets individuell abgewogen werden.

Entscheidend ist, *vor* der Einführung von KI-Anwendungen über die konkrete Zielsetzung nachzudenken.

Links und rechts ist das Bild geteilt. Links ein Mensch vor einem Computer, der zu einem anderen sagt: 'AI turns this single bullet point into a long email i can pretend i wrote.' Im rechten Bild ebenfalls ein Mensch vor einem Computer, der zu einem anderen sagt: 'AI makes a single bullet point out of this long email i can pretend i read.'

Google-Suche nach 'der Name der Rose', erstes Ergebnis ist die sog. 'Übersicht mit KI': Der Name der Rose ist Wilfried.

Da die Entwicklung, Einführung und Begleitung durchaus ressourcenintensiv sein kann, sollte vorab u.a. überlegt werden, ob und wie ein langfristiger Betrieb gewährleistet werden kann und wie groß der Kreis potenzieller Nutzer*innen ist.

Auch lohnt es sich über ressourcenschonende Alternativlösungen nachzudenken. Doch auch wenn man als Organisation keine eigene KI-Anwendung entwickeln möchte oder sich ggf. gänzlich gegen die Nutzung entscheidet, lässt sich eine Debatte darüber nicht umgehen.

So werden in immer mehr bestehenden und meist weit verbreiteten Tools KI-Feature integriert, wodurch eine reflektierte und informierte Auseinandersetzung mit KI-Anwendungen notwendig wird.

Bei der Abwägung der Nutzung sollte sich grundsätzlich stets die Frage gestellt werden, ob der Einsatz zielführend ist und ob die zu erwartenden Vorteile die negativen Konsequenzen rechtfertigen bzw. ob diese vertretbar sind.

Eine von Chat-GPT erstellte völlig unbrauchbar Deutschlandkarte, bei der die Bundesländer und ihre Hauptstädte in wilder Form durcheinandergewürfelt sind. Das Saarland liegt unterhalb von Baden-Württemberg in etwa der Form der Schweiz. Baden-Württemberg heißt schlicht Stuttgart, Berlin gibt es zweimal, Bayern und Thüringen sind vereint, Mecklenburg-Vorpommern heißt Premsnch und noch einige kleinere Fehler.

Wo sind denn eigentlich die funktionierenden Dinge?

KI findet Zement-Ersatzstoff.

Über DeepL - das einzige KI-Tool, das Geld verdient.

Aber das scheinen die Ausnahmen zu sein.

**Der Einsatz von KI-Systemen erfordert einen klaren Blick auf verschiedene Verantwortungsdimensionen**

### Ethisch Was ist der potenzielle Einfluss auf das gesellschaftliche Gefüge, werden Diskriminierung, Verzerrung oder Manipulation gegen null begrenzt?

### Rechtlich Wer haftet für Fehler oder Schäden, ist die Regulierung hinreichend?

### Technisch Wie verlässlich ist das System, welche Schwachstellen hat es, wie werden sie minimiert?

### Sozial Welche Rolle spielt KI in der zwischenmenschlichen Interaktion, trägt sie zur Transparenz bei oder erzeugt sie Intransparenz?

Zu Wahrung dieser Dimensionen sollten sinnvolle Verantwortlichkeiten erarbeitet und installiert werden: * wer beaufsichtigt die Datenqualität, * wer überwacht den Betrieb und prüft die einwandfreie Funktion, * wer evaluiert und schätzt Folgen ab? Beispiele - beliebig erweiterbar...

### weitere Faktoren zur Berücksichtigung * wie wird eine KI erstellt? * Wer arbeitet am Training der Daten? * Und unter welchen Bedingungen? * Wie ist das mit dem Energie- und Wasserverbrauch? * Wie abhängig mache ich mich von Tools?