エッセイ
ウッフィーは、警告である
私たちは、お金ではなくインパクトを人生のものさしにしたい、という運動を築いています。その構想は、すでに誰かが小説として書いていました。世界はそれを十年のあいだ美しいと思い、それから作者自身がそれをディストピアと呼びました。私たちが手を伸ばしているものへの最も名高い挑戦は、ただ実地で失敗しただけではありません。生みの親が言葉にできるかたちで失敗したのです。その検死を学ばないなら、私たちは愚か者です。
その小説とは、コリイ・ドクトロウの2003年の作品『マジック・キングダムで落ちぶれて』の中心にある評判通貨、ウッフィーです。小説が描くのは、希少性も死もなくなった未来、「ビチューン・ソサイエティ」です。そこではエネルギーは無料で、働くことは任意で、何も希少でないからお金は無意味になっています。その空白に、ウッフィーが歩み入ります。他の人があなたをどれだけ敬っているかの、刻々と動く合計。お金に代わって、誰もが追い求めるものになります(Doctorow 2003)。称賛に値することをすればウッフィーは上がり、人望を失えば下がります。最初に読むと、まさに私たちの主張そのものに読めます。資本だけでなく、貢献を称える世界。
不注意な運動なら、ウッフィーを先駆者だと言い張って先へ進むでしょう。私たちは逆をやり、これを手元にある最も大切な警告として受け取ります。それを判断するのに誰よりもふさわしい人、つまりそれを生み出した当人が、十三年後に振り返って撤回したからです。
作者自身による検死
2016年3月、『Locus』誌への寄稿で、ドクトロウはまるごと引かねばならない一文から始めました。それは問題の全体を縮図にしているからです。「一つ、告白しておかねばならない。『ウッフィー』はひどい通貨になるだろう」(Doctorow 2016)。彼はそれを和らげませんでした。寄稿の題は「評判経済では、富の不平等はもっとひどい」であり、その主張はこうです。単一で、読み取れて、換金できる評判の点数は、お金の病理から逃れられない。逃れるどころか、それを取り込み、さらに新しい病理を足してしまう。「ウッフィーはお金のあらゆる問題を抱えていて、その上に、それ固有のものがいくつも乗っている」と彼は書きました。
彼が最も鋭く名指しした失敗を見てみましょう。実力主義として売られた評判の点数は、結局のところ「おべっかを使い、言いくるめ、あるいは恐怖で押し上がる術を知った、ソシオパス的な嫌な連中」のまわりに溜まっていく、と彼は論じました。その仕組みは、痛いほど見覚えがあります。いったん高い地位を得ると、人々は競って、さらに地位を生む機会をあなたに手渡し、あなたはうまくいったことの手柄を取り、うまくいかなかったことの責めを他に振る位置につきます。それこそ、お金がすでに動く仕組みそのものだ、とドクトロウは指摘しました。単位を「ドル」ではなく「評判」にしたところで、優位が雪だるま式に増えていくその循環は壊れませんでした。通貨の名前を付け替えただけだったのです。
そしてもう一つ、より深い傷が、ウッフィーがどう計算されるかにあります。ドクトロウはそれを「一度も説明されないネットワーク・サービスの一群が、あなたとあなたの仕事を知る人々の心を直接に調べ上げ、その内心の見方を一つの数に縮めて算出する点数」と描きます。この言葉に、しばらく留まってください。人々の内心の見方を、一つの数に縮める。あなたの貢献について人が実際に思っていることの豊かさ、敬意や感謝や異論の手ざわり、そのすべてが、順位をつけ、比べ、使うことのできる一つのスカラーに平らに潰される。彼はこれを、自分が描いたユートピアとしてではなく、描きながら気づけなかったディストピアとして見るようになりました。
私たちは、批判者を探しに行く必要はありませんでした。いちばん強い批判者は、原作に署名していたのです。
葬る前に、ウッフィーを最強のかたちにする
誠実さは両側に効きます。失敗から教訓を引く前に、ウッフィーを擁護する側の言い分を、最も強いかたちで述べておくべきです。その一部は、本当に正しいからです。
ドクトロウの直観は健全でした。生存が片づいた世界で、社会を組み立てる軸にすべきものは、蓄積ではなく、貢献と敬意である。ウッフィーは、お金が空けた玉座を「何か」が継ぐことを正しく言い当てています。豊かさはゲームを終わらせるのではなく、ゲームが何を測るかを変えるのだ、と。私たちはそれに全面的に同意します。それは私たちの企て全体の前提です。ウッフィーはさらに、その後継者が社会的であるべきこと、つまり一人で掘り出すものではなく、他者から授けられ、奪い取るものではないことも正しく直観しています。無一文でも敬われている人が飢えてはならず、富んでいても蔑まれている人が安寧を買えてはならない。道徳的な志として、ウッフィーはほとんど私たちそのものです。
だから失敗は、夢のなかにあるのではありません。夢は共有されています。失敗は、四つの具体的な設計の選択のなかにあります。そしてこの区別が、このエッセイのすべてです。ウッフィーが示すのは、正しい目的地を望みながら、なお間違った場所へ運ぶ機械を造りうる、ということです。教訓は「目的を捨てよ」ではありません。「目的は、ずさんな仕組みの設計を許してはくれない。そして、仕組みが壊れるのはまさにここだ」ということです。
末裔たちと、それぞれを腐らせたもの
ドクトロウの撤回を信じるべき最も強い理由は、それを信仰として受け取らずに済むことです。私たちはこの実験を、現実の世界で、繰り返し走らせてきました。人間の値打ちを捉える数を造り、それで現実のものを買えるようにするたびに。どの末裔も失敗し、どれも同じ四つの欠陥の一つを通じて失敗しました。換金性、中央による支配、単一の読み取れる数、攻略のしやすさ。
Klout——換金性。 2009年から、Kloutはあなたのソーシャル上の存在のすべてを、1から100までの一つの数に縮め、影響力を採点しようとしました。それはしばらく意味を持ちました。最盛期には数億のプロフィールを採点し、リチウム・テクノロジーズが2014年に伝えられるところ2億ドルで買収しました(TechCrunch 2014)。腐らせた一手は、その点数を「使える」ものにしたことです。「Klout Perks」を通じて、高得点者には無料の製品、ホテルの部屋のアップグレード、航空ラウンジへの入場が手渡されました。点数が、物質的な優位へと換わったのです(Econsultancy)。評判の数がものを買った瞬間、それは敬意を測るのをやめ、その数を攻略するものなら何でも測りはじめます。そしてKloutはこの上なく攻略しやすかった。不透明で、監査もされず、量に報い、ボットやエンゲージメント・ポッドで水増しできるアルゴリズムでした。リチウムは2018年5月25日にそれを閉じました(Search Engine Journal 2018)。読み取れて、換金でき、攻略できる点数は、まさにウッフィーであり、ドクトロウが予言したとおりに死にました。
Sesame Credit——中央による支配。 アント・グループの芝麻(「Sesame」)信用は、Alipayの中にあるオプトインの商用スコアで、利用者を350から950で格づけします。そしてしばしば——誤って——中国国家の社会信用システムと混同されます。実際にはこれは民間のロイヤルティ・プログラムであり、中国人民銀行は、その元になった八つの民間パイロットの免許の延長を見送りました(Zhima Credit, Wikipedia)。私たちはこれを注意深く、それが実際にそうであるものとしてのみ引きます。すなわち、現実の生活へと換わる商用の評判スコアです。高いスコアは保証金を免除し、手続きを速く通し、そして——出会い系サイト百合網との提携を通じて——見込みの相手への見え方を高めます。ここでの欠陥は、商用の事例においては、世間の想像が描くディストピアではありません。もっと微妙で、もっと示唆に富みます。一つの運営者が何を数えるかを定め、すると市民は、定義が代理しようとしていたそのものではなく、運営者の定義に向けて自分を最適化するのです。中央による支配は、信頼できることの尺度を、命令の一式へと変えてしまいます。
Uber と Airbnb——単一の読み取れる数が、膨張する。 双方向の評価は、見知らぬ者どうしを互いに信頼できるようにするはずでした。そして最初はそうしました。それから腐っていきました。いまや正確に記録されたかたちで。あるオンライン市場の十年を超えるデータにわたって、アポストロス・フィリッパス、ジョン・ホートン、ジョセフ・ゴールデンは、評価が時とともに膨張することを示しました。サービスが良くなったからではなく、傷つける相手と面と向かっているときに、正直な低い評価を残すのは社会的に高くつくからです。評価する側は「平均より上」をつけよという圧力を感じ、それが平均を引き上げ、ついには尺度が役に立たなくなります。多くのプラットフォームで、5点満点の4.6は「落第」点なのです。彼らの結論は、私たちが何度も立ち返る一文です。評判の仕組みは「現在の設計のままでは、自らの無意味さの種を蒔いている」(Filippas, Horton & Golden 2019)。誰もが読める一つの数は、誰もが気を遣って下げられない数になり、反証のできない点数は、何も測りません。
Reddit、Hacker News、Stack Overflow——攻略のしやすさ。 カルマと評判ポイントは、いま生きている評判通貨のなかで最もありふれていて、最も公然と攻略されています。Stack Overflowを共同で創業したジョエル・スポルスキーは率直に、そのポイントとバッジは「ゲーム化の、ほんの一さじ、その大半は評判をめぐるもの」だったと認めています。サイトが望む行動へと振る舞いを導くために設計された誘因です(Spolsky 2018)。やっかいなのは、数の上に築かれた設計上の誘因は、どれも標的になることです。2021年のStack Overflowの研究は、四つの異なる評判不正のパターンを目録にしました。互いに票を入れ合うよう示し合わせる投票リングを含みます。そして、それを捕らえる道具を作りました。プラットフォームは、印をつけられた大半のアカウントの点数を引き下げました(Mazloomzadeh et al. 2021)。これはカルマのバッジをつけたグッドハートの法則です。その数が手に入れる価値を持った瞬間、数を最適化することが、その数が報いるはずだった仕事をすることに取って代わるのです。
四つの仕組み、四つの欠陥。けれど、これが四つの別々の教訓ではないことに気づいてください。一つの教訓の、四つの顔です。換金性、中央による支配、単一の読み取れる数、攻略のしやすさ。これらはウッフィーの設計を支える柱であり、現実の末裔はそれぞれ、そのうちの一本が崩れたときに倒れました。
転回——どの失敗も、一つの原則になる
ここで警告は役に立ちはじめ、私たちは意図して、一つひとつの選択で、ウッフィーと袂を分かちます。私たちは先に設計原則にたどり着いて、それから裏づけを探しに行ったのではありません。先に残骸を読み、それに原則を口述させたのです。私たちが採るどの性質も、上にある失敗の写真の陰画です。
ウッフィーは換金できました。Kloutの特典のように、ものを買いました。だから単位は換金できない。授けられ、携えられ、けっして換金されない。使えず、引き換えられず、優位のために取り崩す残高でもない。立場が割引を買った瞬間、それは名誉であることをやめて値段になり、値段は、それが称えるはずだったまさにその動機を蝕みます。これは称えることは、値段ではないで長く論じた通りです。
ウッフィーは「一度も説明されないネットワーク・サービスの一群」によって中央で計算され、Sesame Creditは一つの運営者によって定義されています。だから承認は仲間から授けられるものでなければならず、何を数えるかを決める中央の権威が発行するものであってはならない。本部が公式を握ることはない。手ざわりは、誰かがそれに向けて最適化する定義のなかではなく、授けるという行いのなかに留まります。
ウッフィーは単一の読み取れる数であり、Kloutも、膨張した星の評価もそうでした。順位がつけられ、使える、一つのスカラー。だから単位は複数である。多くの尺度、多くの共同体、けっして一つの世界共通の点数ではない。一つの数は、ここのどの例も殺した、まさにその比較と、溜め込みと、膨張を招きます。私たちは人間の値打ちの順位表を作りません。順位表は、お金の最も深い病理であって、その治療ではないからです。
ウッフィーも、あらゆるカルマの仕組みも、攻略でき、消えないものでした。数を貯め込み、その残高を永遠に守り、膨らませる。だから承認は減衰しなければならない。貯め込めない。貯められないものは、雪だるま式の優位の砦へと攻略されえないからです。薄れていく立場は、こう問い続けます。あなたはいま何を貢献しているのか、と。かつて何を貯め込んだか、ではなく。
換金できない。仲間から授けられる。複数。減衰する。このならびを下までたどり、それから四つの失敗を見上げてください。それらが同じならびを反転させたものだと分かるはずです。ウッフィーはあらかじめ名指しできる理由で失敗し、私たちはその一つひとつに対して、名指しで設計しようと努めてきました。
あなたに負っている、誠実さ
私たちは勝利では終わりません。まだそれに値しないからです。失敗の在り処を突き止めることは、治療を証明することと同じではありません。ウッフィーの欠陥が本物だったこと、作者がそれを否認したこと、そして現実のどの末裔も少なくとも一つを繰り返したこと、これは自信をもって言えます。けれど、それらすべてから逃れる何かを築いた、とは言えません。私たちの設計——換金できず、仲間から授けられ、複数で、減衰する承認の仕組みを、文化の規模で、最初から防火壁を組み込んで動かすもの——を、誰も走らせたことがありません。その実験は走らされていません。私たちはそれを、慎重に走らせようと提案しており、その一部が壊れたら正直に報告するつもりです。
一つだけ、払いのけるのではなく、開いたままにしておかねばならない反論があります。ドクトロウの最も深い告発は、評判経済はおべっかと立ち回りに長けた者のまわりに優位を集めるというものでした。そして公正な読者は、私たちのものを含めて、敬意の仕組みが「いかなるもの」であれそれから完全に逃れられるのかと問うでしょう。仲間からの授与は人気投票になりうる。減衰は、執拗な者に追い抜かれうる。複数性は、それぞれが自分の身内に冠を載せる徒党へと砕けうる。私たちは、四つの原則がドクトロウの描いた集中を打ち負かすという証明を持っていません。持っているのは、換金性と単一の数を取り除けばその最も鋭い牙を取り除ける、という仮説と、それが新しい変装で戻ってこないか見張る義務です。その見張りは、設計のあとからの付け足しではなく、設計の一部です。
私たちが確信していることは、もっと狭く、もっと固いものです。ウッフィーが追った夢は、追う価値があります。蓄積より貢献を称える世界。ウッフィーがそれを追うために築いた機械は、四つの具体的な、名指しできるやり方で間違っていました。そしてディストピアと運動の違いは、まさにここに帰着するのかもしれません。数を使えるようにするか、一つの権威にそれを定義させるか、単一の点数へと潰れるのを許すか、そして永遠に貯め込めるのを許すか。私たちは、そうである必要はないほうに賭けています。これまで想像されたなかで最も名高い評判通貨は、私たちの手本ではありません。私たちの警告であり、その教訓を私たちは自分たちの原則に書き込みました。
お金ではなく、インパクトを人生のものさしに——授けられ、携えられ、けっして換金されない。ウッフィーは、その違いを私たちに教えた戒めの物語です。
出典
- Doctorow (2003), Down and Out in the Magic Kingdom(全文、作者のサイト) — https://craphound.com/down/Cory_Doctorow_-_Down_and_Out_in_the_Magic_Kingdom.pdf
- Doctorow (2016), “Wealth Inequality Is Even Worse in Reputation Economies,” Locus, 2016年3月3日 — https://locusmag.com/feature/cory-doctorow-wealth-inequality-is-even-worse-in-reputation-economies/
- Lithium acquires Klout (2014), TechCrunch — https://techcrunch.com/2014/03/27/lithium-acquires-klout/
- “Klout: where did it go wrong?”, Econsultancy(攻略のしやすさ+Perksプログラム) — https://econsultancy.com/klout-where-did-it-go-wrong/
- “Klout Loses Its Influence, Announces Shutdown on May 25” (2018), Search Engine Journal — https://www.searchenginejournal.com/klout-loses-influence-announces-shutdown-may-25/252827/
- Zhima (Sesame) Credit — Wikipedia(商用スコア。国家の社会信用システムとは別もの。中国人民銀行は八つの民間パイロットの免許延長を見送った。百合網との出会い系連携) — https://en.wikipedia.org/wiki/Zhima_Credit
- Filippas, Horton & Golden (2019), “Reputation Inflation,” NBER Working Paper 25857; Marketing Science 41(4), 2022 に掲載 — https://www.nber.org/papers/w25857
- Spolsky (2018), “A Dusting of Gamification,” Joel on Software — https://www.joelonsoftware.com/2018/04/13/gamification/
- Mazloomzadeh, Uddin, Khomh & Sami (2021), “Reputation Gaming in Stack Overflow,” arXiv:2111.07101 — https://arxiv.org/abs/2111.07101