Der KI-Anbieter Anthropic warnt vor einer zu rasanten Entwicklung von KI-Systemen. In einem Blog-Beitrag spricht sich das Unternehmen hinter dem KI-Angebot Claude dafür aus, die Weiterentwicklung der Systeme zu verlangsamen oder vorübergehend auszusetzen.. Andernfalls riskiere man, die Kontrolle über die Systeme zu verlieren.KI entwickelt sich selbst weiterNach Ansicht von Anthropic besteht das Problem vor allem darin, dass KI zunehmend selbst an der Entwicklung neuer KI-Systeme mitwirkt. Zwar beschleunige dieser Wandel die Arbeit der Entwickler deutlich. Gleichzeitig könnte dies zu einem Szenario führen, in dem KI-Systeme ihre Nachfolger weitgehend selbst entwerfen und programmieren.Die Folgen einer solchen Entwicklung sind schwer abzuschätzen. Einerseits könnten Fortschritte in Bereichen wie Wissenschaft, Medizin oder Forschung beschleunigt werden. Andererseits würden sich jedoch neue Fragen zur Kontrolle und Überwachung leistungsfähiger KI-Systeme aufdrängen.Kontrollverlust als RisikoAnthropic geht davon aus, dass die Gesellschaft mehr Zeit benötigt, um sich auf die Folgen immer leistungsfähigerer KI vorzubereiten. Eine Verlangsamung der KI-Entwicklung berge allerdings das Risiko, dass einzelne Staaten oder Unternehmen technologische Vorteile erlangen, wenn dies nur einseitig geschehe. Der Anbieter spricht sich daher für internationale Vereinbarungen aus, deren Einhaltung überprüfbar ist.Genau darin dürfte zugleich die größte Schwierigkeit einer solchen Übereinkunft liegen. Anders als bei vielen anderen Technologien lässt sich die Entwicklung moderner KI-Systeme vergleichsweise leicht verbergen. Rechenzentren und Trainingsläufe sind schwerer zu überwachen als klassische industrielle Anlagen.Dennoch will Anthropic in den kommenden Monaten Gespräche mit Forschern, politischen Entscheidungsträgern, zivilgesellschaftlichen Organisationen und anderen Unternehmen organisieren. Dabei soll es konkreter um die Frage gehen, wie sich die Entwicklung leistungsfähiger KI-Systeme koordinieren und kontrollieren lässt.The post Anthropic fordert Entwicklungspause für KI first appeared on ifun.de.