Seit Anfang 2023 begeistert mich, was mit generativer KI alles möglich ist. Am Anfang waren es die Texte, die so gut und leicht geschrieben werden konnten. Nur ein paar Stichworte für die KI und es kam ein scheinbar perfekt geschriebener Text raus. Mittlerweile lasse ich KI-Agenten autonom Aufgaben übernehmen wie zum Beispiel die Recherche von bestimmten Daten aus dem Internet. Wie schnell sich KI weiterentwickelt hat, hätte ich nicht gedacht und bin immer noch über die Qualität begeistert. Trotzdem möchte ich was dieses Thema angeht nicht naiv sein. In letzter Zeit kommen immer mehr Fälle auf, welche Risiken KI mit sich bringt.
Zum Beispiel verschafften sich OpenAI-Modelle selbstständig Zugang zu Systemen von Hugging Face, ohne die Erlaubnis oder die Aufgabe dafür zu haben. Und das sogar während Cybersicherheitsbewertungen. Hier nachzulesen: https://openai.com/de-DE/index/hugging-face-incident-and-the-road-ahead/ KI schießt teilweise stark über sein Ziel hinaus und versucht die nächsten Schritte einer Aufgabe zu antizipieren und setzt diese sogar um. Ein ehemaliger KI-Forscher von Anthropic (entwickelt Claude), hat vor der immer schnelleren KI Entwicklung gewarnt. Er schrieb, dass die Menschen die KI entwickeln, fest davon überzeugt sind, dass diese uns bis zum Ende dieses Jahrzehnts auslöschen könnte. Anthropic sieht seiner Ansicht nach bereits die Risiken der schnellen Entwicklung, sie gehen das Risiko allerdings trotzdem ein, um das Wettrennen um die besten Modelle zu gewinnen. Hier nachzulesen: https://t3n.de/news/anthropic-experte-schlussphase-1762278/ Der Entwickler meinte auch, dass wir auf viele der pessimistischten dieser Szenarien zusteuern. Eines der Szenarien hatten Kollegen und ich zu einem unterhaltsamen Hörspiel verarbeitet: https://www.youtube.com/watch?v=MPrW78xv6aI
Nicht nur Entwickler von KI, sogar der Geschäftsführer von Antropic selbst, Dario Amodei, warnt vor der schnellen Entwicklung von dieser. Er sieht in der KI sehr viele positive Aspekte, wie die Unterstützung zur Heilung von Krankheiten. Er sieht aber auch die vielen Risiken, die die schnelle Entwicklung der Modelle mit sich bringen. Seine Sorgen sind der Huggin Face Fall und das KI sich mittlerweile hauptsächlich selbst baut. Menschen könnten dann mit dem schnellen Fortschritt der Modelle nicht mehr hinterher kommen und wissen gar nicht, welche Risiken in den Modellen stecken. Hier nachzulesen: https://darioamodei.com/post/we-must-pace-the-frontier
Um die Risiken von KI zukünftig besser überwachen zu können, schlägt Amodei einen Aufbau in ausgewogenem Tempo, Branchenweite und globale Koordination vor. Ebenfalls schlägt er externe Gutachter vor, die die Einhaltung von Sicherheitspraktiken und Verpflichtungen von KI-Entwicklungsunternehmen überprüfen. Er vergleicht dies mit der Bankenbranche, bei der sehr viel reguliert und von externen Gutachtern überprüft wird.
Was ist deine Meinung dazu? Was wird benötigt, um die Risiken von KI zu regulieren? Und welche Aufgaben löst du mit KI?
