Kritik an künstlicher Intelligenz – ist KI gefährlich?

In unserem Beitrag vom 29. Dezember 2021 haben wir uns mit der Frage beschäftigt: Was ist künstliche Intelligenz? Heute möchten wir noch einen Schritt weitergehen. Nachdem wir zunächst die vielen Vorteile von KI hervorgehoben und Beispiele für ihren Einsatz im Alltag gegeben haben, möchten wir uns heute ein wenig mit der Gegenseite beschäftigen: der Kritik an künstlicher Intelligenz. Davon gibt es, wie bei vielen Dingen, eine Menge - und das schon seit Jahren. Ist KI gefährlich?

Anhand einiger Beispiele zeigen wir, an welcher Stelle die Technologie kritisch betrachtet wird und wo genau die Probleme nach Ansicht einiger Expert:innen liegen. Selbstverständlich können wir hier nicht alle kritischen Ansätze behandeln, die es zu diesem Thema gibt: Wir beschränken uns deshalb auf eine Auswahl.

Wer kritisiert KI?

Neben all dem Lob für die Möglichkeiten, die uns künstliche Intelligenz bietet, gibt es auch viel Kritik - und die kommt von einigen Seiten. Staaten und spezielle Institutionen, Verbände und Organisationen müssen sich seit einigen Jahren verstärkt mit diesem Thema auseinandersetzen, eben weil KI einen immer größeren Raum in unserem Alltag einnimmt und sowohl Chancen bietet als auch Risiken birgt.

KI-Kritik des Verbraucherzentrale Bundesverbandes (vzbv)

Der Verbraucherzentrale Bundesverband (vzbv) ist eine der Stellen, die den Umgang mit KI kritisieren. Die Inhalte, die im Folgenden dargestellt werden, beziehen sich zwar noch auf die Arbeit der alten Bundesregierung vor der Wahl am 26. September 2021 und nicht auf die der Ampel-Koalition: Diese hatte bisher allerdings auch noch keine Zeit, etwas am Stand der Dinge zu ändern.

In einer Jahresbilanz des vzbv von Oktober 2021 geht es um Handlungsempfehlungen, die von der Datenethikkommission (DEK) zwei Jahre zuvor gegeben wurden. Es handelt sich dabei um konkrete Empfehlungen zum Umgang der Bundesregierung und der EU-Kommission mit "künstlicher Intelligenz (KI), algorithmischen Systemen und Datenpolitik".

Diese Kritik bezieht sich vor allem auf die Regulierung von künstlicher Intelligenz, einen fehlenden rechtlichen Rahmen für den Umgang mit KI und mangelndes Bewusstsein der Verantwortlichen für die Sorgen von Verbraucher:innen. Letzteres vor allem in Bezug auf fehlende Transparenz und Nachvollziehbarkeit. Wenn KI-Systeme eingesetzt werden sollte - laut des vzbv - Folgendes klar sein:

• dass überhaupt KI im Einsatz ist.
• wie genau die KI eingesetzt wird.
• wofür die Systeme eingesetzt werden.

Sehr viele Menschen hätten diesbezüglich noch kein wirkliches Vertrauen und müssten wissen, wann sie es mit einem Algorithmus und einer KI zu tun haben. Um diesem Misstrauen und möglichen Problemen entgegenzuwirken, sollten diese Systeme nach Meinung des Verbandes unter anderem von unabhängigen Instanzen kontrolliert werden.

Mit dem Artificial Intelligence Act (AIA) hat die EU-Kommission im April 2021 ein Gesetzespaket vorgelegt, das sich mit der Regulierung von KI beschäftigt und mögliche Vorschriften für den Umgang mit KI beinhaltet. Ziel ist es, einen einheitlichen Rechtsrahmen für "Entwicklung, Vermarktung und Nutzung künstlicher Intelligenz im Einklang mit den EU-Werten" zu schaffen. Dabei werden die Technologien in vier Risiko-Stufen eingeteilt:

1. unannehmbares Risiko (Verbot dieser KI-Systeme)
2. hohes Risiko (strenge Vorgaben)
3. geringes Risiko (einige Verpflichtungen zur Transparenz, z. B. Chatbots)
4. minimales Risiko (freie Nutzung, z. B. Spamfilter)

Der AIA sei zwar ein guter Ansatz, insgesamt würde man aber noch deutlich hinter solchen Plänen und den Empfehlungen der DEK zurückliegen, heißt es vom Verbraucherzentrale Bundesverband. Auf Deutschland runtergebrochen sei die Bundesregierung in ihrer eigenen KI-Strategie außerdem zu vage in Ihren Zielvorgaben.

Der Verband sagt außerdem, dass einige wichtige Empfehlungen bisher noch gar nicht beachtet wurden. Darunter vor allem die, die besonders wichtig dafür sein sollen, dass Verbraucher:innen künstlicher Intelligenz in Zukunft vertrauen können. Demnach soll dafür gesorgt werden, dass niemand durch KI manipuliert oder diskriminiert werden kann und die Anonymität der Menschen gewährleistet bleibt. Dazu kommt, dass Anbieter dazu verpflichtet werden sollten, die Qualität ihrer KI-Systeme zu garantieren, unter anderem was Rechtmäßigkeit und Korrektheit betrifft.

"Es greift tief in die Rechte und Freiheiten der Menschen ein, wenn Unternehmen ihr Verhalten und ihre Lebensumstände analysieren und bewerten. Die besonderen Beschränkungen der Datenschutz-Grundverordnung (DSGVO) für automatisierte Entscheidungen greifen hier jedoch zu kurz. Aktuell werden Verbraucher:innen daher nicht ausreichend vor Profilbildungen und ungerechtfertigten automatisierten Entscheidungen geschützt." (vzbv)

Es gibt noch viele weitere Punkte in der Jahresbilanz, die wir hier im Detail nicht weiter auflisten können. Deshalb verlinken wir die PDF an dieser Stelle für Sie. Spannend bleibt auch, wie es nach dem Regierungswechsel in Deutschland diesbezüglich weitergeht.

KI-Kritik der United Nations (UN)

Die Vereinten Nationen fordern, dass die Menschenrechte sichergestellt werden, sobald künstliche Intelligenz im Einsatz ist. Im September 2021 bezieht sich das UN-Menschenrechtsbüro in einer Forderung speziell auf den Einsatz von Biometrie, in diesem Fall den Einsatz biometrischer Daten, um Personen an öffentlichen Plätzen zu identifizieren.

Hier geht es ebenfalls um die Forderung, KI staatlich zu regulieren und Menschen nicht ohne Einschränkungen zu überwachen. Es müssten "Leitplanken für den Gebrauch von KI" aufgebaut werden, heißt es.

Es werden riesige Datenmengen gesammelt, die personenbezogene Informationen beinhalten und durch KI ausgewertet werden können. Die UN sieht das Risiko, dass künstliche Intelligenzen unser Leben verändern, definieren oder schädigen könnten. Dazu kommt auch hier der Vorwurf, dass gewisse Algorithmen schon jetzt gewisse Personengruppen und Minderheiten benachteiligen würden, wie beispielsweise die Suchmaschine von Google, wenn es um die Ergebnisse von Suchbegriffen oder Fragen geht. Das sagt die UN-Menschenrechtschefin Michelle Bachelet. Daten könnten fehlerhaft sein und Menschen in den verschiedensten Lebensbereichen und Situationen benachteiligen und ihre Privatsphäre verletzen. Deshalb gehen die Forderungen der UN auch mit Verboten oder zumindest strengen Vorgaben für Technologien einher, die eben solche Konsequenzen haben könnten.

Ein Bericht aus dem Jahr 2018 beschäftigt sich ebenfalls mit Vorteilen und Risiken von künstlicher Intelligenz. Hier geht es vor allem darum, wie Staaten und Unternehmen sicherstellen können, dass beim Einsatz von KI Menschenrechte und Privatsphäre geschützt, die Meinungsfreiheit respektiert und Diskriminierung vorgebeugt werden kann. Die Vereinten Nationen bauen außerdem auch auf den bereits genannten Artificial Intelligence Act (AIA), um künftig einen gesetzlichen Rahmen für den Einsatz von KI zu haben.

KI-Kritik der Weltgesundheitsorganisation (WHO)

Im Gesundheitswesen wird KI in vielen Bereichen eingesetzt. Deshalb hat sich auch die Weltgesundheitsorganisation (WHO) zu diesem Thema geäußert und im Juni 2021 Richtlinien dafür festgelegt, wie Technologien in diesem Bereich eingesetzt werden sollten.

Im medizinischen Bereich hält KI Möglichkeiten bereit, die Vorteile für die Gesundheit von Millionen Menschen auf der ganzen Welt haben können: Aber auch hier bestünde die Gefahr von Datenmissbrauch. Privatsphäre und Daten von Patient:innen müssen zwingend geschützt werden. Deshalb sollten nicht Maschinen, sondern Menschen "sowohl Gesundheitssysteme kontrollieren als auch medizinische Entscheidungen treffen", heißt unter anderem im Deutschen Ärzteblatt unter Berufung auf die WHO. Wenn eine KI involviert ist und "Algorithmen Entscheidungen übernehmen oder Vorschläge für eine Behandlung machen, müsse das transparent und nachvollziehbar gestaltet sein", heißt es weiter.

Die WHO führt als wichtigen Faktor rund um den Einsatz von KI auch an, dass die Angebote für alle Menschen zugänglich sein sollten. Auch für jene mit Beeinträchtigungen - welcher Art auch immer. Außerdem müsste bei den Technologien auf Umwelt und Energieverbrauch geachtet werden.

Die grundsätzlichen Prinzipien der WHO im Umgang mit KI können wie folgt zusammengefasst werden:

• Autonomie der Menschen schützen
• Sicherheit garantieren
• Transparenz gewährleisten
• Verantwortung und Rechenschaftspflicht von Seite der Anbieter
• Gleichberechtigter Zugang zu KI-Systemen für alle
• Nachhaltigkeit der Technologien

Das EU-Parlament über Chancen und Risiken künstlicher Intelligenz

Europa muss die Chancen nutzen, die KI mitbringt. Das ist laut eines Artikels auf der Website des EU-Parlaments ein entscheidender Faktor für Wachstum und Wohlstand in Europa.

Vorteile und Chancen ergeben sich demnach unter anderem für alle Bürger:innen, für Unternehmen, für unsere Demokratie und die Sicherheit. Hierbei bezieht sich das EU-Parlament beispielsweise auf Bereiche wie: Arbeit, Bildung, Gesundheit, Energie, Verkehr sowie Produkte und Dienstleistungen. Auf all diesen Gebieten würde künstliche Intelligenz eine Menge Potenzial für die Verbesserung der einzelnen Bereiche mitbringen.

Aber auch hier werden die Risiken nicht verschwiegen, die sich ebenso in all den genannten Bereichen ergeben könnten. Das EU-Parlament weist unter anderem auch auf die Gefahren für Grundrechte und Demokratie hin. Sie bestehen vor allem dann, wenn eine KI nicht einwandfrei programmiert wurde. Es dürfe zum Beispiel nicht passieren, dass wichtige Faktoren nicht in den Algorithmus einer KI für einen bestimmten Bereich aufgenommen werden, obwohl diese Faktoren für eben jenes Feld essenziell sind, damit nichts verfälscht oder verzerrt wird. Die KI müsse außerdem ordnungsgemäß genutzt werden und dürfe niemanden diskriminieren: Hier schließt die Argumentation an die der Vereinten Nationen an.

Grundsätzlich können sich natürlich in allen Bereichen Probleme ergeben, wenn KI auf irgendeine Art und Weise missbraucht, falsch programmiert oder falsch eingesetzt würde.

KI im Kampf gegen Corona?

Ein aktuelles Beispiel aus Südkorea zeigt einerseits die Chancen künstlicher Intelligenz - andererseits aber auch die potenziellen Risiken. Das Land will im Kampf gegen das Coronavirus verstärkt auf KI setzen.

In der Stadt Bucheon nahe Seoul sollen mehr als 10.000 Überwachungskameras in Betrieb genommen werden, um so besser nachvollziehen zu können, welche Wege coronainfizierte Personen gegangen sind. Die Nachrichtenagentur Reuters schreibt, dass das Projekt noch im Januar 2022 starten soll. Dabei wird ein KI-Algorithmus genutzt, um die Aufnahmen der Kameras zu analysieren. Wie waren die Wege? Mit wem hatten die Infizierten Kontakt? Haben sie eine Maske getragen?

So sollen die Behörden vor Ort dabei entlastet werden, die Infektionsketten nachzuverfolgen und möglicherweise infizierte Menschen aufzuspüren. Mit einer solchen Software würde es nicht mehr Stunden dauern, ein einziges Video zu analysieren, heißt es vom Bürgermeister der Stadt Bucheon. Zudem müsse man sich nicht rein auf die Aussagen der COVID-19-Patient:innen verlassen, die nicht immer alles ganz korrekt angeben würden, wenn es um Standorte, Kontaktpersonen und Aktivitäten gehe.

Selbstverständlich gibt es auch hier Kritik: Menschenrechtsaktivisten und einige Oppositionspolitiker befürchten, dass die Regierung die gesammelten Daten auch über die Pandemie hinaus speichern und nutzen könnte. Hinsichtlich des Datenschutzes an sich gäbe es allerdings keine Bedenken. Eine etwas überraschende Aussage, die unter anderem damit begründet wird, dass das System die Gesichter der Personen automatisch verpixelt, die keine Zielpersonen sind.

Südkorea ist nicht das erste Land, das im Zuge der Corona-Pandemie auf Gesichtserkennung zurückgreift: Dem Bericht zufolge haben auch Japan, China, Russland, Indien, mehrere US-Bundesstaaten und Polen ähnliche Überwachungen von COVID19-Patient:innen eingeführt oder sie zumindest getestet.

Fazit

Wie so oft gibt es auch bei der Entwicklung und dem Einsatz von künstlicher Intelligenz sowohl positive als auch negative Aspekte, die in Diskussionen mit einbezogen und bei Einsatz und Weiterentwicklung der Technologien beachtet werden müssen.

Grundsätzlich können wir festhalten, dass folgende Aspekte wiederholt auftauchen, wenn es um Kritik an künstlicher Intelligenz geht:

1. Datensicherheit / Hacking
2. Verletzung der Privatsphäre
3. Regulierung von KI

Wichtige Punkte, die geklärt und gesichert sein müssen, damit künstliche Intelligenzen nicht zur Gefahr, sondern zur Möglichkeit für einen positiven Fortschritt in unserer Gesellschaft werden können.

Mehr Informationen?

Haben Sie noch Fragen? Können wir Ihnen bezüglich den Einsatz von KI und KI-Entwicklung ganz speziell für Ihr Unternehmen weiterhelfen? Sprechen Sie uns gerne an!

Schreiben Sie uns eine Mail, nutzen Sie unser Kontaktformular oder rufen Sie uns einfach an, um einen Termin zu vereinbaren. Wir erstellen Ihnen gerne ein Angebot – selbstverständlich kostenlos und unverbindlich.