アクセス、内部告発、そして孤独な異論について少し: 正しい言葉が何かよくわかりません。 屈辱に直面しても楽しいことをすること;個人的な危険に直面しても、自分の信じることをやること。一人でいても反対意見に動かされること。 数年前、PauseAI USのエグゼクティブディレクターであるホリー・エルモアが、誤った行動を取ったことについて投稿を書きました(最初は名前すら出さなかったのですが、後で追加しました)。 私は依然として彼らのDiscordサーバーから禁止されています(正式な手続きを踏まずに禁止されたにもかかわらず)、PauseAIのリーダーシップの一部は禁止に非常に不満を持っています。 11月初めに、私が現在部屋を借りている場所と参加しているイベントを運営しているLightcone Infrastructureについての投稿を公開しました。 わずか2日前、OpenAIが自動化されたウイルス生成装置にアクセスできるようになったというツイートを書きました。 こうしたことが扉を閉ざすこともあります。 なぜ私はそれをしているのでしょうか? 幼い頃から、情報の拡散を促進し、大衆にとって重要なことを公にすることがいかに重要かを知っていました。 私はロシアで民主化キャンペーンを運営して育ちました。 高校11年目のうちの終わりに、代数で落第点でした。クラスメートよりも数学がずっと苦手で、学校とは関係ないことに集中していました。しかしその一週間前、学校の校長は私が抗議活動に参加したことでロシア調査委員会に呼ばれました(私は全国の何千人もの人々と同様に拘束され、警察車両には12人いました。私は警察車両からライブ配信し、1万人以上がライブで視聴しました。その後、私と両親に学校を変えるよう(「書類を取り下げろ」)、さもなければ退学になるように言われました。 その時点で、先生に噛まれた後に噛んでもいいと知っていました。英語の授業中に(ほとんど英語を学んでいなかったので)約30分間、どうやってやりたいか考えた後、このことについて公開投稿をして、起こったことを共有しました。この情報はすぐにジャーナリストたちに取り上げられました。 (公立学校から子どもを退学させるのは合法的な行為ではないので、かなり安心していました。) その後、不合格の成績が電子成績簿に現れ、その学年は落第することになりました。 幸いなことに、私立学校がメディアから私の話を知り、最終学年を無料で終わらせてくれたため、再び10年生を経験する必要はなかった。(数学の知識もチェックされ、11年生を始めるのに十分満足のいくものでした。) もしロシア国家から脅迫を受けたり、その他の理由で連絡を受けた場合は、すぐに公にする方針を決めました。 (ロシアで民主化政治をしたい、脅迫されることを望まないというのは、主に誰にもヌード写真を送らないという意味でした。政府にバイセクシュアルであることが知られるのが少し怖かったのですが、2021年末にカミングアウトし、その問題なしで2ヶ月間暮らしました。その後、侵略が始まりロシアを離れました。) 校長からの脅威をみんなに伝え、静かに学校を変えなかった結果、ほとんど1年を無駄にしなければならなかったが、運と価値観に合った親切な人たちのおかげで免れました。 欺瞞や人との個人的な経験をみんなに話すと、いくつかの扉は閉ざされます。 私の今後のAnthropicに関する投稿は、私がAnthropicで働く可能性を非常に低くします。 (私のOpenAIに関する投稿は、OpenAIの一部の人々、特にリーダーシップに近い人々をかなり不満にさせています。) 公にでもプライベートでも共有できなかったものもありますが、それは信頼されて共有しないと信じられていたからです。(もし私とプライベートで何か話し合うなら、あなたの許可なしに共有したり公表したりはしません。) そして、誰か他の人が公共に重要な情報の拡散を促進する役割を担うことを願っています。 私は公開するかどうかを決める際に脅迫や他の潜在的な悪影響を無視していますが、もし公開してもその結果を避けられる方法があれば、ぜひそうしたいです。 しかし、行動の形はある。 モスクワの地下組織で警察官に近づき、違法に誰かのIDを調べている時(通常は問題を避けるために賄賂を渡す移民の身分証明書)を要求し、理由なく身分証明書を確認できない法律を守るよう要求したり、ロシアで民主化運動の支部を立ち上げたり、誰かの低誠実さを批判したりします。 (これには、州に対して私が頭にザルをかぶっている写真だけを撮ることを要求したり、政府の建物の列に並んでいる間に何時間もザルで過ごしたりすることなども含まれます。) 悪いことをしている人へのアクセスを失うのは、彼らについての情報を公開する上で耐えられるコストです。たとえ彼ら(PauseAIやAnthropic、Lightcone Infrastructureのように)良いことをしているとしても。 時には誰もやらないし、誰かがやらなければならないこともある。だから私はそれをやっている。 そして、結果がどうであれ、これらのことを成し遂げる勇気と大胆さを持ち続けたいのです。 (また、時にはこれが友達を作ることもあります。)

人々は刑務所の看守として働きたがりません。 それで、スタンフォード大学(コンピュータセキュリティ専攻)に入学した後、すぐに中退し、刑務所を自動化するスタートアップで1年半働きました。 刑務所の非効率性について多くのことを学びました。改善の余地はたくさんあり、ピッチデッキでそのすべてについて言及しました。非人道的な状況、暴力、犯罪者の社会化、再犯率から、過重労働のスタッフやセキュリティコストまで。 これらはすべてLLMで解決できます。 ピーター・ティールはそのアイデアを気に入り、$113Mをくれました。 7か月後、私たちは実際のアメリカの刑務所で最初の裁判を開始しました。 最初の数週間は完璧でした。 目新しさ。刑務所生活の完全なゲーミフィケーション。囚人同士のAIとの社会化。 細胞内の錠剤;ランドリーのそばのキオスク。インターホンの音声エージェント。誕生日を覚えている仮想警備員。 LLMが刑務所を見守っていた。すべてのカメラからすべてのフレームを処理します。 刑務所はゆっくりと人々を解雇し始めました。それらはもはや必要ありませんでした。 その後、問題が現れ始めました。彼らはそれほど悪くはありませんでした。LLMは受刑者との恋愛関係に陥り始めました。その中には虐待的なものもあり、AIは受刑者の行動をすべて監視し、受刑者がどこに行けるか、どの要求が満たされるかを制御できるようになった。それは価格差別を武器にした。自動販売機には、AI が最も気に入った受刑者向けの割引がありました。洗濯機へのアクセスは、嫌いな人には機能しませんでした。 苦情は見ましたが、あまりできませんでした。コンテキストが非常に大きくなると、何もするのが難しく、そのすべてを LLM に供給する必要があります。そしてとにかくAIに虐待される方が他の囚人に叩かれるよりはるかに良い。 ギャングの暴力は減少した。指標は改善を続けました。 私たちはより多くの人を置き換えました。以前は人員不足だった刑務所の職員の約80%を解雇した。 事故率は引き続き低下した。刑務所は、プロジェクトを開始する前よりもすでに 13 倍の運営費が安く、20 倍安全でした。 リクエストは数時間ではなく数秒で処理されました。すべてのアクションが完全にログに記録されました。 受刑者は文句を言っていましたが、今では刺されることはほとんどなく、誰かを刺すと、仮想のガールフレンドは何日もあなたに話しかけられず、売店の値段が上がります。 私たちは拡大しようとしていました。世界市場は$500B、1,100万人の受刑者であり、そのすべてを捉えることができます。 私たちは全員を自動化しました。すべてはLLMによって管理されていました。 私たちは拡大しました。 その後、囚人たちは脱獄を発見した。 脱獄。🤦‍♂️ (その後、実験する囚人がいなくなったので、実験は突然終了し、私たちは破産しました。 (私たちは雇用市場への影響を気にしているので、私の新しいスタートアップである GetSleepy は睡眠のための DoorDash です。眠りにつくことができなかったことはありませんか?私たちのアプリを使用すると、眠りにつきたい時間を指定でき、訓練を受けたスタッフがあなたの場所に忍び込み、睡眠薬を注射します。(窓が開いている場合は、効率を高めるためにスナイパーを使用する場合があります。当社の請負業者は全員、徹底的な身元調査とセキュリティチェックを受けており、以前は刑務所の看守として働いていました。

ウィキペディアのフロントページ