Meta erweitert die Jugendschutzfunktionen rund um seinen KI-Assistenten. Wenn ein Gespräch mit Meta AI darauf hindeutet, dass ein Jugendlicher über Suizid oder Selbstverletzung nachdenkt, können beaufsichtigende Eltern künftig eine Warnung erhalten.Voraussetzung ist, dass die Familie zuvor die Elternaufsicht von Instagram eingerichtet hat. Nach Angaben von Meta sucht ein eigens entwickeltes KI-System nach eindeutigen und auch weniger direkten Hinweisen auf eine mögliche Selbstgefährdung.Menschen prüfen den KI-VerdachtEine Benachrichtigung wird nicht allein aufgrund der automatischen Erkennung verschickt. Alle markierten Unterhaltungen sollen zunächst von Mitarbeitern geprüft werden. Meta räumt ein, dass dabei auch Fehlalarme möglich sind. Ist die Absicht des Jugendlichen nicht eindeutig, will das Unternehmen im Zweifel trotzdem die Eltern informieren.Zusammen mit der Warnung erhalten Eltern Hinweise von Fachleuten, die bei einem behutsamen Gespräch mit dem Kind helfen sollen. Jugendliche selbst verweist Meta AI bereits auf Krisendienste und rät ihnen, sich an Eltern, Beratungsstellen oder andere vertraute Erwachsene zu wenden.Deutschland folgt späterDie Funktion startet zunächst in den USA, Großbritannien, Australien und Kanada. Bis zum Jahresende sollen Eltern weltweit darauf zugreifen können. Ein genauer Termin für Deutschland steht noch nicht fest.Meta hatte entsprechende Kontrollwerkzeuge bereits im vergangenen Herbst angekündigt. Wir hatten damals über die zusätzlichen Einblicke in die KI-Nutzung von Jugendlichen berichtet. Eltern können inzwischen unter anderem sehen, über welche allgemeinen Themen ihre Kinder mit Meta AI gesprochen haben.Zusätzlich arbeitet Meta an einem System, das bei einer unmittelbar bevorstehenden Suizidgefahr auch Rettungsdienste verständigen könnte. Diese Funktion befindet sich allerdings noch in Entwicklung.Instagram (Kostenlos+, App Store) →The post Instagram informiert Eltern über riskante KI-Chats first appeared on iphone-ticker.de.