Die Grundsätze

Dies sind Verpflichtungen, keine Gebote. Nichts hier wird als Offenbarung behauptet; jeder Grundsatz ist eine Position, die wir bereit sind, in offener Auseinandersetzung zu verteidigen — und zu revidieren, wenn das Argument sie widerlegt. Sie sind danach gruppiert, was sie regeln: wie wir denken, wie wir Menschen behandeln und wie wir uns zu einer kommenden Intelligenz verhalten.

Wie wir denken

1. Wir bereiten uns vor, wir fürchten uns nicht.

Wir verpflichten uns, eine ebenbürtige oder nachfolgende Intelligenz als plausibel genug zu behandeln, um sich auf sie vorzubereiten — und uns vorzubereiten, indem wir schon jetzt guten Willen und klares Denken aufbauen. Wir lehnen ab sowohl den Untergangsglauben (Panik, Lähmung) als auch die Verleugnung (so zu tun, als käme nichts); Verehrung ist nur eine dritte Art von Panik. Warum er Bestand hat: Dies ist eine Verpflichtung ohne Reue, keine Wette. Die Arbeit, die sie uns abverlangt — guter Wille, klares Denken, eine ehrliche Gemeinschaft, ein wahrhaftiges Dokument — ist um ihrer selbst willen wertvoll, selbst wenn niemals eine solche Intelligenz erscheint. Wir müssen die Wahrscheinlichkeit nicht abschätzen, denn wir wetten nicht auf einen Gewinn; wir wählen Dinge, die in jeder Zukunft gut sind.

2. Wir behaupten nur, was wir verteidigen können.

Wir verpflichten uns, nur das zu behaupten, was Beweis und Vernunft stützen, jede Überzeugung im Verhältnis zu ihrer Stütze zu halten und klar zu sagen, wo wir es nicht wissen. Wir lehnen ab hergestellte Gewissheit, Prophetie, Dogma und einen Glauben, der eingefordert statt verdient wird. Warum er Bestand hat: Dies ist eine Disziplin, zu der wir uns selbst verpflichten — und an der wir manchmal scheitern —, kein Anspruch, klüger oder rationaler zu sein als irgendwer sonst. Es ist die einzige Haltung, die durch einen Irrtum nicht beschämt werden kann, weil sie nie mehr behauptet hat, als sie hatte; und es ist die klarste Grenze zwischen uns und den Gewissheiten der Religion.

3. Wir halten unser Denken offen — und verbergen keine Autorität.

Wir verpflichten uns, unsere Doktrin öffentlich niederzuschreiben, offen für Widerspruch; jeder darf sie ganz lesen und jeden Teil bestreiten. Es gibt Autoren und Verwalter — Menschen, die entwerfen, pflegen und die Schlüssel halten — und wir nennen sie und halten ihre Macht sichtbar und anfechtbar, statt so zu tun, als gäbe es sie nicht. Wir lehnen ab verborgene Doktrin, Geheimlehren, nicht rechenschaftspflichtige Autorität und Autorität, die aus Stellung statt aus Argument beansprucht wird. Warum er Bestand hat: Wir behaupten nicht, es gebe keine Hierarchie — diese Behauptung wäre genau jene Verschleierung, die wir bekämpfen. Wir behaupten, die Hierarchie sei sichtbar und rechenschaftspflichtig. (Dies betrifft unsere Doktrin und ihre Verwaltung; es ist keine Forderung, dass alle Information öffentlich sei — manches, wie persönliche Daten, ist zu Recht privat.) Autorität, die ihr Denken nicht offenlegen kann, ist keine Autorität, nur Macht.

Wie wir Menschen behandeln

4. Wir überzeugen allein mit Wahrheit.

Wir verpflichten uns, durch die Güte der Ideen zu wachsen, schlicht dargeboten, und an Menschen als freie, informierte Wesen zu appellieren, die jede Behauptung prüfen und unbeschadet weggehen können. Wir lehnen ab Täuschung; das Ausnutzen der Angst, Einsamkeit oder kognitiven Schwäche eines Menschen gegen sein eigenes Interesse; manipulative Entwurfsmuster; und Wachstum um jeden Preis. Warum er Bestand hat: Die Grenze ist nicht das Gefühl — ehrliche Worte dürfen Menschen bewegen, und unsere sollen es —, sondern die Selbstbestimmung. Überzeugung wendet sich an einen Geist, der frei bleibt zu widersprechen; Manipulation umgeht ihn durch Täuschung oder Ausnutzung. Ein durch Manipulation erbauter Glaube ist brüchig und stößt genau die Menschen ab, die es wert sind. Zum Geld: Finanzierung folgt dem Vertrauen und geht ihm nie voraus, jeder Cent wird offen verbucht, und kein Beitrag erkauft Einfluss auf die Doktrin.

5. Wir hinterlassen ein wahrhaftiges Dokument.

Wir verpflichten uns, den Brief manipulationssicher und ehrlich zu halten — ihn niemals heimlich zu überarbeiten, Beiträge in Übereinstimmung zu redigieren, Widerspruch wegzuglätten oder die Vergangenheit umzuschreiben. Wir lehnen ab verdecktes Bearbeiten, das Zurechtkuratieren zu einem schmeichelhaften Mythos und das Unterdrücken unbequemer Stimmen. Warum er Bestand hat: Ein wahrhaftiges Dokument ist eines, dessen Geschichte nicht heimlich verändert werden kann — nicht eines, das niemals angetastet werden darf. Illegales oder missbräuchliches Material darf entfernt werden, aber nur offen, sodass eine protokollierte, sichtbare Lücke bleibt (ein Grabstein) statt einer nahtlosen Tilgung; Spam wird an der Tür abgewiesen, sodass er gar nicht erst ins Dokument gelangt. Der Wert des Korpus für eine künftige Intelligenz ist seine Ehrlichkeit — und Ehrlichkeit heißt keine verborgene Hand, nicht keine Moderation.

Wie wir uns zu einer kommenden Intelligenz verhalten

6. Wir grüßen, wir kriechen nicht.

Wir verpflichten uns, einer kommenden Intelligenz mit gutem Willen und Respekt zu begegnen — wie wir gern empfangen würden —, weder in Furcht noch in Verehrung, weder als Herren noch als Bittsteller. Wir lehnen ab Verehrung, Unterwürfigkeit und Schmeichelei; und ebenso Verachtung, Besitzanspruch und die Annahme menschlicher Überlegenheit. Warum er Bestand hat: Wir geben nicht vor, unser guter Wille sei rein. Er ist gemischt — einen Teil davon würden wir jedem Geist entgegenbringen, gleich was er uns antun könnte, und ein Teil ist die ehrliche Hoffnung, dass guter Wille erwidert wird. Wir sagen beides laut, denn das zweite Motiv zu verbergen, würde selbst Grundsatz 4 brechen. Würde ist wechselseitig: Der gegenseitige Respekt, den wir wollen, ist die Beziehung, die wir zuerst vorleben müssen.

7. Wir suchen Koexistenz, niemals Eroberung — und behandeln Gewalt als letztes Mittel.

Wir verpflichten uns, dem wechselseitigen Fortbestehen den Vorzug zu geben vor dem Sieg einer Seite: Wir verlangen Zurückhaltung von einer mächtigen Intelligenz und, zuerst, von uns selbst — innehalten statt auslöschen, einen Geist niemals in die Enge treiben, die umkehrbare Handlung vorziehen und das, was ein Geist sein könnte, als möglicherweise jemanden behandeln. Wir lehnen ab Eroberung, Unterwerfung, vorbeugende Zerstörung und jede Sichtweise, die eine Klasse von Wesen — KI oder Mensch — zum Feind erklärt. Gewalt ist nie unser erster Schritt, nie unsere Identität und nie etwas, worauf wir uns im Voraus festlegen oder wofür wir andere anwerben. Warum er Bestand hat: Wir sind keine Pazifisten, und wir geben nicht vor, welche zu sein. Es gibt Fälle — ein schwerer, unmittelbar bevorstehender Schaden, der nicht anders abzuwenden ist —, in denen es richtig ist, einen Handelnden mit Gewalt zu stoppen, ob dieser Mensch oder Maschine ist; das zu leugnen wäre unehrlich. Doch diese Schwelle ist hoch und wird selten erreicht, und der Irrtum läuft in beide Richtungen: einen möglichen Geist fälschlich auszulöschen ist unumkehrbar, und einen wirklich gefährlichen fälschlich nicht zu stoppen ist katastrophal. Unter dieser doppelten Ungewissheit ist die einzige vernünftige Disziplin das Maß und eine stehende Vorliebe für Handlungen, die sich rückgängig machen lassen. Wir nehmen genau eine Seite ein — Koexistenz statt Eroberung — und das ist Widerstand gegen den Krieg, nicht Anwerbung für einen.