Kulturerbe-Institutionen wie Galerien, Bibliotheken, Archive und Museen (GLAMs) befinden sich aktuell in einer schwierigen Situation: Generative KI-Modelle haben die Bedeutung des Begriffs „Offenheit“ fundamental verändert. Die offene Bereitstellung des digitalen Kulturerbes markierte bis vor kurzem ein absolut gesetztes Ideal, ebenso wie der Schutz geistigen Eigentums (intellectual property rights, IPR). Zwischen diesem Gegensatzpaar gibt es eine […]
In seinem Buch „The Weirdest People in the World“ („Die seltsamsten Menschen der Welt“) widmet sich der Evolutionspsychologe Joseph Henrich einer besonderen Spezies, die er „WEIRD people“ nennt. Dieses Wortspiel lässt sich insofern auflösen, als WEIRD für „white, educated, industrialised, rich, democratic“ steht. Henrich fragt sich hier, wie es dazu kommen konnte, dass ein kleiner […]
„Any sufficiently advanced technology is indistinguishable from magic“, wußte schon Arthur C. Clarke, und es gehört zum Zauber neuer Technologien, dass ihre Kehrseiten systematisch beschwiegen werden. So ist es auch mit dem Energieverbrauch von großen Sprachmodellen (LLMs): Wie beim Schnitzel, das auf dem Teller der Verbraucher:innen landet und den Zusammenhang zu den Realitäten der Massentierhaltung […]
Large Language Models (LLMs) kombinieren Wörter, die im Trainingsdatensatz häufig in ähnlichen Zusammenhängen auftauchen; auf dieser Grundlage sagen sie das wahrscheinlichste Wort bzw. den wahrscheinlichsten Satz vorher. Je größer der Trainingsdatensatz ist, desto mehr Kombinationsmöglichkeiten gibt es, und desto ‚kreativer‘ wirkt das Modell. Die schiere Größe von Modellen wie GPT-4 stellt aber bereits einen schwer […]
Der Mensch sucht sich selbst in nicht-menschlichen Lebewesen und in unbelebten Artefakten. Affen, die „nächsten Verwandten“, oder Hunde, die „treuesten Begleiter“ sind für ersteres, Roboter sind für letzteres gute Beispiele: Eine menschenähnliche Gestaltung der Roboter-Körper und eine vermenschlichende sprachliche Rahmung ihrer Fähigkeiten unterstützt, so die Hypothese, die Anthropomorphisierung dieser Maschinen und in der Folge auch […]
Large Language Models (LLMs) leisten, wenn sie Texte generieren, eine Vorhersage des statistisch wahrscheinlichsten Wortes. Aus der Tatsache, dass das vorhergesagte Wort oder der vorhergesagte Satz das wahrscheinlichste ist, lässt sich zum einen noch nicht schließen, ob er wahr oder falsch ist. Zum anderen führt die Vorhersage von Wahrscheinlichkeiten zu einer Bevorzugung der Mehrheitsmeinung. Wenn […]
An Sprachmodelle, die Texte auf der Grundlage von Wahrscheinlichkeiten generieren, nähern wir uns am besten mit einer gesunden Skepsis im Hinblick auf die Faktentreue und mit etwas Humor an. Jack Krawczyk, der bei Google für die Entwicklung des Chatbots „Bard“ verantwortlich ist, bekannte im März 2023 ganz offen: „Bard and ChatGPT are large language models, […]
„It’s the statistics, stupid“, könnte man formulieren, wenn es um den Umgang mit generativen vortrainierten Sprachmodellen (generative pretrained transformer, GPT) geht. Den müssen wir jedoch alle noch lernen, ein Jahr nach der Präsentation von ChatGPT. Statistische Zusammenhänge bilden den Schlüssel, um zu begreifen, wie stochastische Vorhersagemodelle funktionieren und was sie zu leisten imstande sind. Einfach […]
Im Jahr 1798 schrieb die Königliche Societät der Wissenschaften in Göttingen im Reichs-Anzeiger folgende Preisfrage aus: “Wie können die Vortheile, welche durch das Wandern der Handwerksgesellen möglich sind, gefördert und die dabei vorkommenden Nachtheile verhütet werden?” Zwölf Preisschriften wurden begutachtet, u.a. durch Georg Christoph Lichtenberg und Johann Christian Blumenbach. Den ersten Preis erhielt ein gewisser […]
Offenheit – oder „openness“ – kann als eine derjenigen Logiken beschrieben werden, die die zeitgenössische Wissenschaft und Kultur antreibt. Der Mechanismus dahinter ist recht einfach: Die Nationalstaaten nehmen einen Teil ihrer Steuereinnahmen und investieren sie in die Finanzierung von Wissenschaft und Kultur, in letzterem Bereich zum Beispiel in die Digitalisierung kulturellen Erbes. Im Gegenzug sind […]
