Der Algorithmus als Kritiker

Empfehlungssysteme haben ein merkwürdiges Ansehen. Man traut ihnen zu, den eigenen Geschmack besser zu kennen als man selbst, und ärgert sich zugleich über die Eintönigkeit dessen, was sie vorschlagen. Beides zusammen ergibt nur dann einen Widerspruch, wenn man annimmt, Geschmack sei etwas Feststehendes, das lediglich entdeckt werden müsste.

Tatsächlich beschreibt ein Empfehlungssystem nicht, was jemand mag, sondern was jemand, der bisher dies gewählt hat, als Nächstes wählen dürfte. Das ist eine Prognose über ein Verhalten, keine Aussage über eine Person. Würde man den Unterschied ernst nehmen, klänge manche Kritik anders: Nicht der Algorithmus verkennt den Nutzer, sondern der Nutzer verwechselt eine Wahrscheinlichkeit mit einem Urteil.

Gleichwohl bleibt ein Einwand bestehen, und zwar ein gewichtiger. Ein System, das aus vergangenem Verhalten lernt, kann Neigungen nur verstärken, die schon vorhanden sind. Ein menschlicher Kritiker dagegen darf einem etwas zumuten. Er kann sagen: Das gefällt Ihnen jetzt nicht, lesen Sie es trotzdem. Ein Empfehlungssystem hätte dafür keinen Grund — es würde an dieser Empfehlung gemessen und verlöre.

Man sollte deshalb nicht mehr erwarten, als das Verfahren hergibt. Wer sich überraschen lassen will, braucht eine Instanz, die etwas riskieren darf, und das setzt voraus, dass sie am einzelnen Fehlgriff nicht zugrunde geht. Solange Empfehlungen ausschließlich daran gemessen werden, ob sie angenommen werden, wird jede Empfehlung vorsichtig sein müssen.