KI/AI – wie die Lemminge…

Dass KI in seiner Wirkung massiv unterschätzt wird, ist keine Verschwörungstheorie, sondern hat viel mit der Naivität gegenüber technischen Möglichkeiten zu tun.

Hinweis; auch wenn es im Bericht teilweise so klingen sollte; KI ist kein eigenständiges „Ding“, sondern immer eine Technologie, die vom Menschen benützt wird. Und; das Beitragsbild wurde mithilfe vom discord/midjourney erstellt.

Ist es erstaunlich, wie unreflektiert die grosse Masse der Nutzerinnen und Nutzer künstlicher Intelligenz gegenübersteht? Nein, denn KI ist bequem.
Schulen freuen sich an den Möglichkeiten, schreiben eMails, beurteilende Berichte zu Elterngesprächen, Elternbriefe, Unterrichtsvorbereitungen und viele weitere Dinge mithilfe von Chat GPT und Konsorten. Schulen sehen es als Chance, wenn Schülerinnen und Schüler Arbeiten zukünftig KI-gestützt verfassen. Aber auch im privaten und geschäftlichen Umfeld wird KI zunehmend häufiger genutzt, weil es „so einfach“ ist und „schneller“ geht.
Interessant; die grössten Kritiker an der KI sind ausgerechnet jene Menschen, die sie entwickeln, ihnen Leben einhauchen.Das ist nicht erstaunlich, weil gerade sie nicht nur die Möglichkeiten kennen, sondern auch sehen, wie diese Möglichkeiten umgesetzt werden und wie leichtfertig wir als Gesellschaft mit den Gefahren umgehen.
Was uns zu denken geben sollte; ausgerechnet die Nutzniesser wie grosse Techunternehmen sowie PolitikerInnen aller Couleur setzen sich gegen eine „zu starke Reglementierung“ ein.
Und, KI wird von Menschen aber auch von Staaten bewusst für Hacking und Manipulation eingesetzt.

Die Krankenversicherung

Ein gesellschaftliches Thema ist die Anwendung von Algorithmen – und nichts anderes ist KI – etwa bei der Vergabe von Krediten, bei der Aufnahme in eine Versicherung, bei der Beurteilung von Bewerbungen und vieles mehr. Sollen das wirklich Maschinen entscheiden?
Selbstverständlich gibt es auch positive Anwendungen, etwa die Unterstützung bei der Beurteilung von MRI-Bildmaterial in Spitälern. Was aber klar und unerlässlich ist; Menschen kontrollieren und entscheiden letztlich, was zu tun ist.
Leider ist genau diese Kontrolle durch Menschen weitgehend ein Wunschtraum. Erstens verhindert das unsere Bequemlichkeit; warum sollen wir da noch eingreifen, wenn die KI das so gut macht?
Zweitens werden wir zunehmend weniger kontrollieren können, weil die Ergebnisse immer „besser“, sprich komplexer werden.
„Normale“ Menschen sind bereits heute überfordert zu erkennen, was KI ist und was real.

Die Werbung

Werbung beeinflusst unser Denken und Handeln in den unterschiedlichsten Formen seit gefühlten Ewigkeiten – wir haben uns daran gewöhnt und glauben, vieles davon zu durchschauen und uns kaum beeinflussen zu lassen. Pustekuchen!
Die geschätzten Zahlen gehen zwar auseinander, was aber klar ist; eine grosse Menge von aktuellen Werbeträgern – InfluencerInnen genannt – sind heute KI-basiert, -optimiert oder gar vollständig generiert. Die Qualität der entsprechenden Videos ist längst auf einem Niveau, das nur noch von Fachleuten „entlarvt“ werden kann – wenn überhaupt.
Klar können Menschen letztlich selber entscheiden, was sie kaufen wollen. Es liegt in der Natur von Werbung, dass sie manipuliert. Mit KI verschwimmen aber die Grenzen zwischen Werbung und vermeintlicher Realität zunehmend.

Beeinflussung

Werbung ist das Eine, Beeinflussung bei der Meinungsbildung ist das Andere. Das enorm hohe technische Niveau, öffnet der Steuerung und Manipulation gesellschaftlicher und politischer Prozesse Tür und Tor. Dass Deep Fakes heute Teil von Wahlkampagnen sind, ist traurige Wahrheit. Wer glaubt, dass diese Manipulationen nur aus Russland oder der Ukraine kommt, ist naiv.
Neben der politischen Beeinflussung gibt es aber zunehmende gesellschaftliche Risiken wie etwa kriminelle Aktivitäten. Was glauben Sie, wie lange es gehen wird, bis die Telefonbetrügereien so clever geschehen, dass am anderen Ende der Leitung vermeintlich eine Person mit Ihnen spricht, die nicht nur wie ein Verwandter von Ihnen klingt, sondern auch über Wissen verfügt, von dem Sie glauben, dass es nur das private Umfeld haben kann? Richtig – das geschieht bereits!

Was tun?

Es ist Realität; die Auswirkungen von KI sind bereits viel umfassender, als wir denken und beurteilen können. Niemand weiss mit Sicherheit, wofür sie überall eingesetzt wird, welche Aufgaben sie übernimmt, welche Macht mit ihr bereits ausgeübt wird.
Und doch müssen wir Regelwerke definieren, innerhalb derer KI „ungestraft“ wirken darf. Das tun wir auch in anderen Bereichen. Viele Gesetze regeln unser tägliches Leben – und das in unserer aller Interesse; Regeln im Strassenverkehr, der Schutz vor kriminellen Handlungen, Gefahren für Leib und Leben.
Richtig ist, dass wir nicht alle Gefahren bannen können, dass Missbräuche ungestraft bleiben, dass selbst Mord und Totschlag ungesühnt bleiben. Das darf aber nicht dazu führen, dass wir kapitulieren und meinen, dass wir „eh nichts dagegen unternehmen“ können.
Auch bei technischen Entwicklungen geschehen heute schon Missbräuche, die unentdeckt und unbestraft bleiben. Aber nur mit Regulierungen werden wir eine Handhabe erhalten, damit wir zumindest dagegen ankämpfen können, als Gesellschaft handlungsfähig bleiben, erkannte Missbräuche bestrafen können.

Konsequenzen für die Schule

Es ist nicht absehbar, wohin die Entwicklung gehen wird. Nur teilweise wird uns bewusst, welche Konsequenzen der Einsatz von KI haben wird. Gewisse Dinge sind aber klar, weil logisch.

• Lehrpersonen werden immer weniger Arbeiten erkennen, welche mit Ki verfasst wurden – zu schnell und zu gut lernt die Technologie, wie ich schreibe, wo mein sprachliches Niveau ist, wo mein Wissenshorizont liegt.
• Der Einsatz von KI wird die Ungleichheit im Bildungswesen verstärken, der „educational gap“ wird sich vergrössern. Einige Menschen werden mehr Möglichkeiten und KnowHow haben, um KI gewinnbringend für sich einzusetzen, andere werden aussen vor bleiben.
• Tendenzen weg von mündlichen Prüfungen hin zur stärkeren Gewichtung schriftlicher Arbeiten verfälschen die Bewertungen von Ausbildungsabschlüssen zunehmend.
• Von KI erstellte Arbeiten sind weder kreativ noch überdurchschnittlich. Die Qualität der Arbeiten ist mittelmässig. Die verfügbaren Informationen und Quellen sind endlich, wirklich neue Informationen und Inhalte kommen kaum mehr hinzu.