Hier ist ein Abschnitt, bei dem’s mir besonders hochkommt.

Die Trainings-, Validierungs- und Testdatensätze müssen im Hinblick auf die Zweckbestimmung relevant, hinreichend repräsentativ und so weit wie möglich fehlerfrei und vollständig sein. Sie haben die geeigneten statistischen Merkmale, gegebenenfalls auch bezüglich der Personen oder Personengruppen, für die das Hochrisiko-KI-System bestimmungsgemäß verwendet werden soll. Diese Merkmale der Datensätze können auf der Ebene einzelner Datensätze oder auf der Ebene einer Kombination davon erfüllt werden.

Da ist noch einiges mehr von der Sorte. Es ist zum Haare raufen. Anscheinend wird man, für manche KI-Systeme, die Datensätze zertifizieren lassen müssen. Wie schafft es so etwas Gesetz zu werden?

KI in Europa hat man wohl allseits abgeschrieben. Wenn dann in Zukunft woanders die Weltklasse KIs gemacht werden, werden die natürlich auf Leistung optimiert und nicht auf willkürliche Anforderungen. In Europa gibt es dann Provinzklasse KIs aus teuren, zertifizierten Datensätzen. Ist nur Geld, zahlt der Kunde. Wenn die KI nicht funktioniert, macht ja nix. Alles zertifiziert, da gibt’s kein Schadenersatz.

Vielleicht gibt es auch ein paar gute Ansätze. Hier zum Beispiel:

Das Inverkehrbringen, die Inbetriebnahme oder die Verwendung bestimmter KI-Systeme, die das Ziel oder die Auswirkung haben, menschliches Verhalten maßgeblich nachteilig zu beeinflussen, und große Schäden, insbesondere erhebliche nachteilige Auswirkungen auf die physische und psychische Gesundheit oder auf die finanziellen Interessen verursachen dürften, ist besonders gefährlich und sollte dementsprechend verboten werden. Solche KI-Systeme setzen auf eine unterschwellige Beeinflussung, beispielsweise durch Reize in Form von Ton-, Bild- oder Videoinhalten, die für Menschen nicht erkennbar sind, da diese Reize außerhalb ihres Wahrnehmungsbereichs liegen, oder auf andere Arten manipulativer oder täuschender Beeinflussung, die ihre Autonomie, Entscheidungsfindung oder freie Auswahl in einer Weise untergraben und beeinträchtigen, die sich ihrer bewussten Wahrnehmung entzieht oder deren Einfluss – selbst wenn sie sich seiner bewusst sind – sie nicht kontrollieren oder widerstehen können. Dies könnte beispielsweise durch Gehirn-Computer-Schnittstellen oder virtuelle Realität erfolgen, da diese ein höheres Maß an Kontrolle darüber ermöglichen, welche Reize den Personen, insofern diese das Verhalten der Personen in erheblichem Maße schädlich beeinflussen können, angeboten werden.

Wir werden vor der bösen Gedankenkontroll-KI geschützt. Einfach umprogrammiert zu werden, wenn man sich per Gehirnchip in den Cyberspace einklinkt, ist für manch einen sicher eine große Sorge.

Ich sehe das fundamental anders.
Es wäre ein Fehler, KI ohne Grundrahmen einfach laufen zu lassen. Es gibt extrem viele Bereiche, die tangiert werden. Allein die Frage, wer für eine Generierung im Zweifel einstehen muss, ist essenziell. Veröffentliche ich etwa eine wissenschaftliche Arbeit mit innovativem Inhalt, könnte das in allen möglichen Formen unreferenziert und vielleicht sogar falsch wiedergegeben werden. Was dann tun?

Viel schwerwiegender sehe ich aber sowohl den Durst der KI-Anbieter, alles ohne Einwilligung speichern zu dürfen, als auch der Politiker, dieses vollgefressene Werkzeug für fragwürdige Zwecke einzusetzen.

KI hat allerdings sehr viele Vorteile. Wer bisher damit recherchiert hat (trotz der damit einhergehenden Schwächen), hat sicher die Vorzüge kennengelernt. Auch in der Medizin ist KI vermutlich eine der bedeutendsten Errungenschaften. Auch finde ich das Generieren von Bildern, Geschichten usw. teilweise positiv.

Was nun? Es gibt Vorteile, aber bestimmte Grundlinien müssen eingehalten werden, also benötigen wir ein Regelwerk.

Aber: Dieses verabschiedete Regelwerk ist es nicht

Es ist definitiv ein extrem schlechtes Gesetz. Der Ansatz ein KI-Gesetz zu machen war schlicht ein Fehler. KI zu regulieren gibt soviel Sinn wie OOP zu regulieren. Nur das bei KI Sci-Fi Fantasien die Wissenslücken füllen.

Wenn ich mir die Medienberichte ansehe, wollten viel wohl ein Massenüberwachungsgesetz. Aber weil es eigentlich ein KI-Gesetz ist, taugt es eben nicht dafür, und bremst gleichzeitig, ohne Not, die technische Entwicklung aus.

Es wird viel davon abhängen, wie die KI-Behörden (und Gerichte) das auslegen und durchsetzen. Egal wie, es wird einiges Gejammer über die ahnungslosen “Boomer” geben. Ich weiß gar nicht, wen ich wählen soll, damit nicht so ein Scheiß gemacht wird.