Tony Fadell darüber, warum die erste Welle der KI-Gadgets scheiterte – und was als Nächstes kommt

Als Tony Fadell die Bühne beim ersten MIT Future Fest betritt, zeigt er eine Folie mit drei eingestellten, stark beworbenen KI-Geräten: dem Rabbit R1, dem Humane AI Pin und dem Limitless Pendant.

„Diese repräsentierten die erste Generation von KI-Produkten. Aufgrund meines Hintergrunds wandten sich diese Unternehmen an mich, um Rat einzuholen, doch ich lehnte ab“, erklärte Fadell.

Es ist kaum überraschend, dass diese Startups Fadelns Rat suchten. Als „Vater des iPod“, Mitentwickler des iPhone und Gründer von Nest – dem von Google übernommenen Unternehmen für intelligente Thermostate – bringt Fadell unvergleichliche Branchenerfahrung mit.

„Sie müssen Ihr Ziel und das spezifische Problem, das Sie lösen, klar definieren“, bemerkte er. „In diesen Fällen behandelte keines der Geräte ein echtes Bedürfnis; sie waren lediglich interessante Gadgets für Technikbegeisterte, sodass die Nutzer dachten: ‚Das ist clever, aber es passt nicht in meinen Alltag.‘“

Diese frühen KI-Gadets versprachen die Einfachheit eines persönlichen Assistenten, hielten diese Versprechen jedoch nicht ein. Darüber hinaus haben die meisten Nutzer noch nie einen Assistenten beschäftigt und haben Schwierigkeiten zu verstehen, wie sie einen roboterhaften Helfer nutzen oder ihm vertrauen sollen.

„Weniger als 0,01 % der Weltbevölkerung hatte jemals einen menschlichen Assistenten“, stellte er fest. „Wenn Unternehmen behaupten, sie wollten einen Assistenten entwickeln, spiegeln sie damit größtenteils die Perspektiven derjenigen wider, die bereits einen haben. Die meisten Verbraucher verstehen nicht einmal, was ein Assistent eigentlich tut.“

Fadell wendet sich dann an die verbleibenden 99,99 % und erklärt, dass die Einstellung eines zuverlässigen persönlichen Assistenten weitaus komplexer ist, als einfach den beeindruckendsten Lebenslauf aus einem Stapel von Bewerbungen auszuwählen.

„Es dauerte Jahre, bis ich den besten Weg gefunden hatte, einen Assistenten zu nutzen, gefolgt von der Zeit, die benötigt wurde, um ihm sensible Daten anzuvertrauen und ihn zu befähigen, als Agent zu handeln – beispielsweise Termine zu planen oder Bankgeschäfte zu verwalten“, sagte er. „Wir mögen eine Vision der Zukunft haben, aber es sind viele Schritte erforderlich, um sowohl Privatkunden als auch Unternehmen auf diesen Weg zu bringen.“

Die Diskussion über die Herausforderungen beim Aufbau von Vertrauen in KI-Assistenten kann respektlos klingen, doch Fadelns Punkt ist gültig. Wenn man einen menschlichen Assistenten einstellt, übergibt man ihm am ersten Tag nicht seine Bank-Zugangsdaten. Wir bewegen uns auf eine Welt zu, in der jeder Zugang zu einem persönlichen KI-Assistenten hat, aber diese Tools sind nur dann wertvoll, wenn wir ihnen vertrauen können, dass sie vollständige Sicherheit gewährleisten.

Der Aufbau von Vertrauen in einen KI-Assistenten erscheint derzeit schwieriger als die Verlass auf einen Menschen. Meta hat kürzlich Muse, seinen allgemeinen KI-Assistenten, eingeführt, doch die Nutzer haben berechtigte Bedenken. Ein Sicherheitsforscher identifizierte schnell eine kritische Schwachstelle in Muse nach dessen Veröffentlichung, und ein kürzlich von 404 Media veröffentlichter Bericht enthüllte, dass einige Meta-Mitarbeiter Sicherheitsprobleme entdeckten, die einen „wahnsinnigen Wettlauf“ zwischen mehreren Teams auslösten, um diese Probleme vor dem Start zu beheben, wobei sie Überstunden arbeiteten.

„Vertrauen und Sicherheit werden für jedes System entscheidend sein, das wir einer Intelligenz anvertrauen“, sagte Fadell. „Das einzige Unternehmen, das ich derzeit in der Lage sehe, dies richtig zu machen – vielleicht noch eines andere –, ist Apple. Sie besitzen all die Hardware, Chips und Komponenten, obwohl ihnen die umfassende KI-Infrastruktur fehlt.“

Selbst wenn Apple am Ende nicht den überzeugendsten KI-Agenten produziert, sagt Fadell voraus, dass ein erfolgreicher Agent vollständig auf dem Gerät arbeiten muss, um die Privatsphäre zu gewährleisten und die Technologie leichtgewichtig zu halten.

„Wenn Sie Behauptungen hören, dass ‚Rechenzentren die Welt erobern werden‘, … glaube ich das nicht“, sagte er. „Ich habe das schon einmal gesehen, etwa in der frühen Internetära. Wir haben heute immense Leistung auf den Geräten sowie noch größere Rechenkapazitäten, und das alles bei batteriebetriebener Nutzung.“

Indem Apple sensible Daten auf dem Gerät behält, anstatt sie in die Cloud zu übertragen, hat es das Nutzervertrauen gewonnen, biometrische Daten über Funktionen wie Face ID zu teilen. Wie Fadell anmerkt, genießt Apple bei den Verbrauchern bezüglich der Privatsphäre mehr goodwill als seine Konkurrenten; im Gegensatz zu anderen großen Tech-Unternehmen verfügt Apple jedoch über kein erstklassiges proprietäres KI-Modell – sein neuer Siri läuft auf maßgeschneiderten Versionen von Googles Gemini.

Während Apple bei proprietärer KI möglicherweise zurückliegt, ist es in der Hardware weit voraus. Fadell vermutet, dass Unternehmen wie Meta und OpenAI sich auf physische Gadgets konzentrieren, weil ihnen die Milliarden von Geräten fehlen, die Apple im Umlauf hat.

„Das liegt daran, dass sie keinen Zugriff auf die Sensoren Ihres Telefons haben. Sie denken: ‚Oh, wir brauchen Video‘, und Sie müssen bestätigen: ‚Ja, ich gewähre Videozugriff.‘ Dann sagen sie: ‚Nun, wir brauchen Audio.‘ Bestätigt. ‚Wir brauchen Ihren GPS-Standort.‘ Bestätigt. Bevor Sie es bemerken, wird es zu einer Liste von 20 oder mehr Berechtigungen, die Sie ihnen gewährt haben“, erklärte er. „Was tun sie also? Sie erstellen ein Gerät, das all diese Sensoren enthält, aber keinen Bildschirm … und dann verbindet es sich über Bluetooth oder WLAN mit Ihrem Telefon und anschließend mit dem Web oder einem 5G-Netzwerk, um auf all diese Sensordaten zuzugreifen.“

Angesichts seiner Geschichte bei der Entwicklung des iPhone und iPod mag es scheinen, als würde Fadell seinen ehemaligen Arbeitgeber noch immer durch rosarote Brille betrachten. Obwohl er Apples Stärken anerkennt, hat er nicht gezögert, das Unternehmen zu kritisieren, wenn er der Ansicht ist, dass es Fehler macht.

Als ein Mitglied des Publikums nach der Rolle des Glücks bei der Erreichung der Produkt-Markt-Passung fragte, wies Fadell darauf hin, dass Startups es viel schwieriger finden, dieses Glück herzustellen, da ein gescheitertes Produkt das Ende des Unternehmens bedeuten kann.

„Weil es ein Startup ist, haben Sie nur einen Versuch“, scherzte er. „Es ist nicht wie bei Apple mit dem Vision Pro.“