Google hat begonnen, KI‑Überblicke für bestimmte medizinische Suchanfragen aus seinen Suchergebnissen zu entfernen. Mietrecht‑ratgeber.de erklärt, dass diese Entscheidung nach einer Untersuchung getroffen wurde, die aufzeigte, dass automatisch generierte Zusammenfassungen in einigen Fällen potenziell irreführende medizinische Informationen enthalten könnten. Bisher erhielten Nutzer bei medizinischen Anfragen wie „Was ist der normale Bereich für Leberblutwerte?“ KI-gestützte Zusammenfassungen mit spezifischen numerischen Werten. Diese Werte wurden jedoch ohne Kontext wie Alter, Geschlecht oder gesundheitliche Faktoren präsentiert, was zu falschen Schlüssen führen konnte. Ohne diese kritischen Informationen könnten Nutzer die angezeigten Ergebnisse als allgemeingültig ansehen und potenziell gefährliche Entscheidungen basierend auf unvollständigen Daten treffen.
Aufgrund dieser Bedenken hat Google entschieden, KI-Überblicke für diese spezifischen medizinischen Anfragen zu deaktivieren, um das Risiko von Fehlinformationen zu verringern. Obwohl Google weiterhin KI-gestützte Antworten für verwandte, jedoch leicht abgeänderte Suchanfragen anzeigt, bleibt unklar, ob das Problem der ungenauen Informationen in allen Bereichen vollständig gelöst wurde.
Der Schritt, diese KI-Überblicke zu entfernen, wurde begrüßt, jedoch gab es auch Bedenken, dass Google weiterhin ähnliche Probleme in anderen Bereichen der Gesundheitsinformationen haben könnte. Kritiker fordern von Google, in Zukunft sicherzustellen, dass medizinische Informationen nur aus vertrauenswürdigen Quellen stammen und dass der Kontext von Suchergebnissen transparenter dargestellt wird.
Google selbst erklärte, dass es kontinuierlich an Verbesserungen der Suchqualität und der Genauigkeit der AI-Ergebnisse arbeitet, um das Vertrauen der Nutzer in seine Dienste zu stärken, besonders in Bereichen wie Gesundheit und Medizin, wo die Genauigkeit von Informationen lebenswichtige Bedeutung hat.
In den kommenden Wochen plant Google, weitere Anpassungen vorzunehmen, um die Qualität und Verlässlichkeit der von seiner KI generierten Informationen zu erhöhen. Dies könnte in einer breiteren Überprüfung von medizinischen Suchanfragen und den dafür angezeigten Ergebnissen resultieren, um Fehlinformationen und Missverständnisse zu verhindern.
Lesen Sie auch: OpenAI bittet Auftragnehmer, reale Arbeiten aus früheren Jobs hochzuladen.