# Message from Garden Place > Message from Garden Place:Guoliang Chen のエッセイとノート Guoliang Chen(オンラインでは Freezind)。東京・恵比寿からエッセイとノートを書く。テーマは AI とともに生き、働くこと。連載「Live with AI」の著者。 三つの言語で書いています:英語は /、中文は /zh/、日本語は /ja/。同じ記事の別言語版は翻訳であり、別の記事ではありません。 https://gardenplace.me/ja/llms.txt --- # プロンプト術の真髄:いつまでも色褪せない技法 - URL: https://gardenplace.me/ja/posts/the-prompt-trick-that-never-expires/ - Published: 2026-09-12 - Updated: 2026-09-13 - Stage: 常緑 - Series: Live with AI - Tags: AI, prompt, ライティング ## 十分ゆっくり学べば、学ばずに済む [前の記事](https://gardenplace.me/ja/posts/natural-language-is-the-new-programming-language/)ではプログラミングの三つの時代を語った。人が書く時代、機械が学ぶ時代、自然言語の時代。自然言語が新しいプログラミング言語になり、誰もが魔法使いになった以上、呪文を試したくてうずうずしているだろう。しかしAI時代にはこんなジョークがある――「十分ゆっくり学べば、学ばずに済む」。似た言い回しもある――「一晩寝たら、ずいぶん取り残された。一年経ったら、何も逃していなかった」。 ## 「とりあえず学ぶ」から「使うときに学ぶ」へ こうした冗談は、半分は当たっている。変化が速く、必要になったときにすぐ調べられる細部は、後で学べばいい。 プログラミングには遅延評価(lazy evaluation)という概念がある。式をすぐには評価せず、その値が本当に必要になるまで待つ。Haskellはこれを利用して無限長のリストを表現し、実際に使う部分だけを評価する。機械学習にも遅延学習(lazy learning)という概念がある。基本的なk近傍法はサンプルを蓄えるだけでパラメトリックな予測モデルを事前に学習せず、クエリが来てから比較する。AI時代の今、学ぶ価値のあるものは膨大にあり、学ぶ速度も格段に上がった。私たちの学び方も、これに倣ってよいはずだ。特に次のような知識はそうだ。 1. 近いうちに使うとは限らず、いざ使うときには調べやすく学びやすいもの。 2. 今はインプットとアウトプットだけ分かればよく、ブラックボックスとして扱えるもの。 3. 変化が速く、先に覚えた細部を、使うころには学び直す必要があるかもしれないもの。 技術の進歩に伴い、調べることと学ぶことのコストが変わった。2011年に*Science*に掲載された[研究](https://www.science.org/doi/10.1126/science.1207745)では、後でその情報にアクセスできると思っている場合、被験者は情報の内容自体を思い出しにくくなる一方、その保存場所はむしろよく覚えていることが分かった。私たちは記憶の一部を外部システムに預けている。AIはさらに一歩先を行く。見つけてくれるだけでなく、質問に合わせて解説し、例を示し、一緒に試してくれる。 この手の知識を集めずにはいられない人は多い。受験中心の学び方が尾を引いているのではないかと思う。資料を見られない試験で役に立つかどうかばかりを気にしている。しかし現実は、資料持ち込み可の試験だ。これまでは"just in case learning"、つまり「いつか使うかもしれないから、とりあえず学んでおく」ことが多かった。今は"just in time learning"、「使うときに学ぶ」でいい。これは一部のJITコンパイラのやり方に似ている。頻繁に実行されるようになったコードを、その時点で集中的に最適化する。学べば仕事の効率が上がると分かってから学んでも、遅くはない。 ## 原理・原則の知識ほど、価値が長持ちする 早めに学んだ方がいい知識もある。新しい問題について判断するとき、何度も助けになるからだ。Transformerを導出できる必要はないが、いくつかのメンタルモデルは、一度築けばずっと使える。 **モデルが見ている文字は、あなたが見ている文字と同じではない。**モデルはまずテキストをtokenという塊に分割する。一つの単語のこともあれば、単語の一部のこともある。strawberryはあなたの目には10文字だが[^strawberry]、モデルの目には2〜3個のtokenかもしれない。初期のモデルが中のrを正しく数えられなかったのはこのためだ。粒度が違う。ただし、これがモデルの能力の限界というわけではない。分割自体は[情報を捨てていない](https://github.com/openai/tiktoken)し、新しいモデルはこの種の問題をよりうまく処理する方法を学べる。ある世代のモデルの弱点を、すべてのモデルが永遠に超えられない壁と勘違いしてはならない。 [^strawberry]: 初稿を書いているとき、私はこの実験を再現してみた。AIはrの数を正しく3個と答えたのに、今度は全体の文字数を数え間違え、9文字だと言った。 **流暢だからといって、正しいとは限らない。**言語モデルの基本的な訓練目標は「先行するテキストを条件に、次に最もありそうなtokenを予測する」ことだ。この目標により膨大な知識と推論パターンを獲得できるが、訓練したからといって、事実を検証する機能まで付いてくるわけではない。だから話がすらすら出てくるほど、一度立ち止まって問いたい。この主張は自分で確かめられるだろうか。 **「さっき言ったじゃないか」――だがモデルにはもう見えていないかもしれない。**各モデルにはコンテキストウィンドウがある。一度に見られる量には上限がある。会話が長くなると、最初のやり取りはウィンドウの外に押し出されているかもしれない。対話の履歴はまだそこにあると思っていても、モデルにとってその部分はもう視界にない。また、会話中にモデルの重みはリアルタイムで更新されない。このターンで示した例からルールを拾えるが、会話を閉じれば忘れる。ただし、プロダクトに別途[記憶機能](https://help.openai.com/en/articles/8590148-memory-faq)があれば、保存しておける。モデルの知識のカットオフ日は訓練時に学んだ内容を制約するが、いま貼り付けた資料を読むことは妨げない。 2017年のあの[*Attention Is All You Need*](https://arxiv.org/abs/1706.03762)から今日まで、モデルの変化は巨大だが、token、コンテキストウィンドウ、訓練と推論の違いというこれらの概念はいまだに説明力を持っている。ある知識が長期的に学ぶ価値があるかを判断するとき、私はそれが複数の現象を説明できるか、ツールを変えた後もなお判断の助けになるかを見る。原理も修正される。良いメンタルモデルとは、自分の判断がどこで当てにならないかまで教えてくれるものだ。 ## システムプロンプトとユーザープロンプト まずはChatGPTやClaudeのようなチャットボットの話から。対話ボックスに「アウトラインを作って」「ここをもっと短く」と打ち込む。これがユーザープロンプト(user prompt)だ。プロダクト側は裏で[システムプロンプト(system prompt)](https://platform.claude.com/docs/en/release-notes/system-prompts/overview)を用意し、アシスタントの基本的な役割や行動ルールなどを伝えている。派遣社員にたとえるなら、システムプロンプトは社則であり、ユーザープロンプトは具体的な仕事の依頼だ。プロンプトの書き方をもっと詳しく知りたければ、コミュニティが管理する[流出したシステムプロンプト集](https://github.com/asgeirtj/system_prompts_leaks)を参照できる。余談だが、ユーザーにはこうした信頼形成に関わる情報を知る権利があるべきだと私は考えている。主流の汎用コンパイラがほぼすべてフルオープンソースであるのと同じように。 日常の会話では、対話ボックスに要件を述べるだけでいい。同じ対話の中では、それまでのメッセージも通常はコンテキストに含まれ、後続の回答に使われるため、毎回最初から説明し直す必要はない。「中国語で回答して、技術用語は英語のまま」のような繰り返し伝える好みがあれば、[ChatGPTのカスタム指示](https://help.openai.com/en/articles/8096356-chatgpt-custom-instructions)に保存できる。特定の会話群にだけ適用される背景や要件は、[Claudeのプロジェクト知識とプロジェクト指示](https://support.claude.com/en/articles/9517075-what-are-projects)に入れればいい。 これらはプロダクトが用意したカスタマイズ機能であり、メーカーのシステムプロンプトを直接編集することとは異なる。利用者としては、まず目の前のタスクを明確に伝えれば十分だ。何度も同じことを伝えていると気づいたら、保存しておけば毎回言わずに済む。システムプロンプトの優先度はつねにユーザープロンプトより高い。 エージェント内部でのプロンプトの配置はさらに複雑になる。それはまた別の機会に。 ## ロールプロンプティングは、もうただのコスプレだ この役割分担を踏まえると、流行のプロンプト術を見ても、何を自分で補う必要があるのか判断しやすくなる。 スタンフォードの2025年秋学期CS146S: The Modern Software Developerの講義スライドにはこう書かれている――[Use role prompting aggressively to make system prompts more powerful](https://docs.google.com/presentation/d/1MIhw8p6TLGdbQ9TcxhXSs5BaPf5d_h77QY70RHNfeGs/edit?slide=id.g3827d98ef8c_0_0#slide=id.g3827d98ef8c_0_0)。いわゆるロールプロンプティングとは、冒頭で「あなたはトップクラスのフロントエンド専門家です」と一言入れることだ。多くの人がこれをお決まりの書き出しと見なしている。まるでこの一文がなければモデルはフロントエンドのコードを書けないかのように。 [Fable 5.1](https://www.anthropic.com/claude-fable-and-mythos-5-1) / [GPT-6 Astra](https://openai.com/index/gpt-6-astra/)という十分にポストトレーニングされた現世代のアシスタントモデルでは、私は基本的に、この前置きを省いてタスクをそのまま伝える。問題を丁寧に理解し、関連知識を活用し、できるだけ役に立つ回答をする――これはまさにメーカーが訓練している行動だ。モデルを優れたアシスタントに仕上げる作業は、ユーザーの手に届く前にかなりの部分が済んでいる。 メーカーは[指示チューニングとRLHF](https://arxiv.org/abs/2203.02155)などのポストトレーニング手法により、回答の手本や、どの回答がより望ましいかというフィードバックでモデルを調整し、リクエストへの対応力とユーザー支援能力を高めている。「役に立つアシスタントであれ」はすでにモデルの学習済みデフォルト行動であり、ユーザーが毎回の会話でゼロから教える必要はない。Anthropicの[persona selection model](https://alignment.anthropic.com/2026/psm/)も、ポストトレーニングがAssistantというペルソナを形作り、磨き上げるという見方を示している。 **ペルソナを指定しなくても、目の前にいるのは、すでにアシスタントとしての振る舞いを学んだモデルだ。**「Reactのウェブページを作って」というタスク自体がフロントエンド開発の文脈を提供している。「あなたはトップクラスのフロントエンド専門家です」の一文がどれだけ追加の価値をもたらすかは、この土台の上に何を補足しているかにかかっている。出力が変わったかどうかだけでは判断できない。 これが私が汎用的なペルソナ設定を省く理由だ。その一文がモデルに思い出させようとしている行動は、デフォルトのアシスタント行動とタスクの記述の中にすでに含まれている可能性が高い。ここで言う「調整済み」とは、ユーザー支援を目標に幅広いタスク向けに最適化されたデフォルト行動を指す。具体的なタスクの出来は、結局のところ結果で判断するしかない。だから私はまずタスクを述べ、不足を見つけてから要件を補足する。「あなたは専門家です」を必須の前置きにはしない。 「面接官のように一度にひとつだけ質問して」とか「アクセシビリティ監査者の観点でこのウェブページをチェックして」と頼みたいなら、話は別だ。そこで指定しているのは一緒に作業を進める方法やレビューの範囲であり、「ウェブページを作って」からは必ずしも推測できない情報だ。ペルソナはこうした要件を短く伝えるために使える。役に立つのは、それが補足するタスク情報なのだ。 既存の研究も、肩書きへの過信を戒めている。Zhengらの[研究](https://arxiv.org/html/2311.10054v3)は2023年に初公開、2024年に確定稿が出た。162のペルソナをシステムプロンプトに入れ、4つのモデルファミリーに属する9モデルにMMLUの選択式問題2,410問を解かせて比較した結果、ペルソナの追加が全体の正答率を安定して向上させるという結果は得られなかった。この研究はFable 5.1世代のモデルをテストしておらず、それらの評価を代替するものではない。検証しているのは「ペルソナを付ければモデルが強くなる」という広く信じられている仮定だ。 CS146Sのスライドにあった例を、私は[Fable 5.1](https://www.anthropic.com/claude-fable-and-mythos-5-1)で実際に試した。同じ問題(最長回文部分文字列)を、二つのペルソナにそれぞれ解かせた。 > **Gen Z digital bestie** ―― [会話ログ](https://claude.ai/share/bfe773fd-a985-4618-bf8b-4f6bfb8de242) > > **A helpful assistant that loves programming at the level of a senior software developer** ―― [会話ログ](https://claude.ai/share/37bd90d7-93b4-4bff-815e-043b640dc3fd) > > 今回はどちらも正しいプログラムを書き、より効率のよいManacherのアルゴリズムにも自発的に言及した。いちばん目立った違いは口調だった。 今回はコスプレのように見えた。あるいはVTuberと言ってもいい。ガワは変わったが、中の人は変わっていない。 ロールプロンプティングの使いすぎは結局のところ手抜きにすぎない。タスクの具体的な要件を考え抜かず、汎用ペルソナに代わりに考えてもらおうとしている。中国の大学入試(高考)の作文で冒頭に有名人の名言を引くのと同じだ。箔はつくが、その課題ならではの情報はほとんど増えない。 たった一文のペルソナ設定がなぜモデルの行動を変えるのかについては、LLMの原理をより深く掘り下げるとき、別の記事「なぜペルソナが行動を変えるのか」を書いて、条件付き確率、attention、役割表現を分解して説明する予定だ。 ## その技は、もうモデルに組み込まれている [2022年の論文](https://arxiv.org/abs/2205.11916)では、"Let's think step by step"というプロンプトを加えると、当時のモデルのMultiArithでの正答率が17.7%から78.7%に上がることが示された。たった一文がこれほどよく効き、幅広く使えるなら、システムプロンプトに組み込むべきだ。案の定、内部で推論するモデルがその後登場し、[OpenAIのガイド](https://developers.openai.com/api/docs/guides/reasoning-best-practices)はもうこの一文を加える必要はないと述べている。かつて人が手動で促さなければならなかった動作が、モデルのデフォルト行動になったのだ。 Zero-shotとfew-shotを使うと、この区別がよりはっきりする。中国語の“今天天气很好”を英訳させるとき、先に翻訳の手本を見せなければzero-shot(ゼロショットプロンプティング)。中国語と英語の対訳を数組先に示してから新しい文を訳させればfew-shot(フューショットプロンプティング)。ここで言う「ショット」はプロンプト内で示すタスクの実例を指し、モデルが訓練時に見たデータではない。GPT-3の論文のタイトルはそのまま[*Language Models are Few-Shot Learners*](https://arxiv.org/abs/2005.14165)だ。 モデルが指示を直接理解する能力が上がるにつれ、タスクによっては、まず例を示さずに試して、うまくできるか見ればよくなった。それでもfew-shotが時代遅れになったわけではない。特定の語調、三重にネストしたJSON構造、エッジケースで空配列を返すかエラーを投げるか――こうした場面では、ひとつの手本が千字の説明に勝ることがある。Show, don't tell。文章を書くときにも昔から使われてきた技法だ。 こうしたプロンプトのテクニックは、今も役に立つ。あまりに幅広く使えるからこそ、技術の進歩とともにモデル内部やシステムプロンプト、あるいは開発元のharnessに組み込まれていく。不要になるのは、ユーザーがその都度、明示的に促すことなのだ。 ## モデル開発企業の仕事と私たちの仕事 Navalは2026年2月のポッドキャスト[A Motorcycle for the Mind](https://nav.al/ai#:~:text=worth%20learning%20tips%20and%20tricks%20of%20how%20to%20work%20with%20these%20AIs)でもっと率直に語っている。プロンプトの書き方やharnessの組み方といったコツを、熱心に学ぶ気はないという。技術が自分に適応する速度の方が自分が適応する速度より速いと信じているからだ。彼の見立てでは、それらのworkflowやツールの寿命は「週単位、せいぜい月単位であり、年単位ではない」。ただし例外をひとつ残した。今まさに最先端のプロダクトを作っていて、わずかな競争上の優位も逃せない場合は学ぶ価値がある、と。5月には[コーディング版](https://nav.al/tokens#:~:text=resisted%20learning%20all%20the%20tricks%20and%20tips)を語った。Ralph Wiggum、OpenClaw、plan modeといった助言には乗らず、Codex、Claude、Geminiを同じ問題に繰り返し投入する――"waste tokens, save time"。 Navalの考え方に沿って、私はAIを使うためにかける労力を二つに分けたい。their jobとour jobだ。Their jobとは、モデルやツールの開発者が今まさに改善し続けていること――モデルの推論力を上げ、ツール使用の信頼性を高め、人の話し方への適応力を向上させる。ある技法がモデルの弱点を補うだけのものなら、その価値はモデルのアップグレードとともに下がりうる。もちろん、今日の仕事に役立つなら、今日学ぶことには意味がある。Our jobはまた別だ。Navalは技法を学ばないと言っているが、すぐその後に、こう続けている。 > [I just can speak English.](https://nav.al/ai#:~:text=I%20just%20can%20speak%20English) And for someone like me who is relatively articulate with English and also has a structured mind, and I know how computer architectures work, and I know how computer programs work, and I know how programmers think, then I can actually very precisely specify what I want just through structured English. これ自体が最強のプロンプト術だ。明晰な自然言語、構造化された思考、機械の仕組みを理解していること、プログラマの考え方を知っていること、そして、何を求めているかを正確に言葉にすること。Navalに技法がないのではない。彼の技法はAIが登場する前にすでに鍛え上げられていたのだ。それ以前に積み重ねた表現力、プログラミング力、判断力は、価値を失うどころか、AI時代にはさらに価値を増した。 ## 本当に自分のものになるプロンプト術は、書く力だ モデルの弱点を補うテクニックは、モデルの世代交代とともに必要なくなる。しかし、タスクそのものに関する情報を明確に伝える力は、いつまでも古びない。 モデルを、派遣会社から来たスタッフだと思えばいい。この人は途方もなく聡明で、多くの本を読み、さまざまな言語で書ける。しかし今朝あなたのオフィスに来たばかりだ。あなたたちが何のプロダクトを作っているか、誰に向けたものか、チームにどんな暗黙のルールがあるか、前回のトラブルはなぜ起きたか。そうしたことは知らない。すでに得意なことについてはforループから教える必要はない。手間をかけるべきは、このプロジェクト固有のコンテキストを渡すことだ。 プロンプトは最初から完璧に書く必要はない。良いプロンプト術はLLM-friendlyであるだけでなく、human-friendlyでもあるべきだ。毎回作業前に完全な仕様書を書かなければならないとしたら、作業に取りかかる前に、気後れしてしまうかもしれない。プロンプト手法を評価するとき、人が取りかかるまでに必要な労力も考えるべきだ。 [『小さな習慣』](https://minihabits.com/about-mini-habits/)は、毎日自分に課す行動を、ごく小さくすることを勧めている。[フォッグ行動モデル](https://www.behaviormodel.org/ability)も、行動の難度を下げることで行動が起きやすくなると強調する。この考え方を借りれば、AIとの協働の第一歩も小さくていい。やりたいことをまず口にする。考えがまとまっていなければ、AIに質問してもらいながら考えを整理し、一緒に試してみればいい。 最初の案ができたら、結果を見て要件を補う。文章を推敲するように、AIとの作業も直しながら進めればいい。最初のプロンプトでどれほどよい回答が出るかだけでなく、人が気軽に始められるか、少しずつ進めて最後までやり遂げられるかも大切だ。 本気でプロンプトを学ぶなら、私はまずモデル開発元の[公式ガイド](https://platform.claude.com/docs/en/build-with-claude/prompt-engineering/claude-prompting-best-practices)から始める。タスクを明確にし、背景を伝え、必要なら例を示す。こうした基本こそ、長く磨き続ける価値がある。公式の具体的なアドバイスも変わるから、使うときに最新版を確認し、実際の結果を見ればいい。AIは幅広く使えるのだから、AIについて学ぶときにもAIを使える。どう質問すればいいか分からなければ、AIに問いの整理を手伝ってもらえばいい。何かを学ぶために時間と労力を投じる価値があるか迷ったら、AIに聞けばいい。「AIの使い方」を学び終えてからAIを使い始める必要はないのだ。 Let them do their job, and we do ours. ## さらに読む - Vaswani et al., [*Attention Is All You Need*](https://arxiv.org/abs/1706.03762)(2017)――attention、フィードフォワードネットワーク、Transformerの計算構造。 - Ouyang et al., [*Training language models to follow instructions with human feedback*](https://arxiv.org/abs/2203.02155)(2022)――指示チューニングとRLHFがモデルのデフォルト行動をどう変えるか。 - Marks, Lindsey & Olah, [*The Persona Selection Model: Why AI Assistants might Behave like Humans*](https://alignment.anthropic.com/2026/psm/)(2026)――事前学習で身につくペルソナと後学習で形成されるアシスタントの関係を捉える解釈の枠組みと、その限界。 - Zheng et al., [*When "A Helpful Assistant" Is Not Really Helpful*](https://arxiv.org/html/2311.10054v3)(Findings of EMNLP 2024、プレプリントは2023年から)――システムプロンプト中のペルソナ効果の対照研究。結論が適用できるモデルとタスクの範囲は限定されている。 - Anthropic, [*AI prompt engineering: A deep dive*](https://www.youtube.com/watch?v=T9aRN5JkmL8)(2024-09-05、Alex Albert、Amanda Askell、David Hershey、Zack Witten)――プロンプティングの実践、ペルソナ、推論についてのラウンドテーブル。 - Anthropic, [*Prompting best practices*](https://platform.claude.com/docs/en/build-with-claude/prompt-engineering/claude-prompting-best-practices)――ペルソナ、例示、コンテキスト、出力制約に関する公式ガイド。モデルの更新とともに改訂される。 - Kojima et al., [*Large Language Models are Zero-Shot Reasoners*](https://arxiv.org/abs/2205.11916)(NeurIPS 2022)――"Let's think step by step"のオリジナル論文。 - Naval & Nivi, [*A Motorcycle for the Mind*](https://nav.al/ai)(Naval Podcast、2026-02)――AIツールの学習における取捨選択、構造化された表現と基盤的知識の価値。 - Naval, Guillermo Rauch, Blake Scholl & Max Hodak, [*Waste Tokens, Save Time*](https://nav.al/tokens)(Naval Podcast、2026-05)――コーディング版:Ralph Wiggum / OpenClaw / plan modeを追わず、複数のモデルをひたすら走らせる。 - Mihail Eric, [*CS146S: The Modern Software Developer*](https://themodernsoftware.dev)(Stanford、2025)――本稿で議論した講座とプロンプトのスライドの出典。 - プログラミングパラダイムの背景知識(Software 1.0 / 2.0 / 3.0)については[自然言語こそ新しいプログラミング言語だ](https://gardenplace.me/ja/posts/natural-language-is-the-new-programming-language/)を参照。 --- # 自然言語こそ新しいプログラミング言語だ - URL: https://gardenplace.me/ja/posts/natural-language-is-the-new-programming-language/ - Published: 2026-09-04 - Stage: 常緑 - Series: Live with AI - Tags: AI ## プログラミングはもともと一種の文章だ 2022年の秋、友人にPythonを教えていたときのことだ。彼女は自由奔放な人で、Pythonの文法規則に従わず、だいたい意味が通ればいいと思っている。私はひどく頭を抱えた。こう言った——コンパイラには君の自由な書き方は通じない。コードは一層ずつ分解されて、末端ではすべてが式でなければならない。人間にはだいたい同じに見えても、機械にはそう見えない。記号がひとつ欠けるだけで構文木の構造がまるごと変わるんだ、と。 その後の展開は周知のとおりだ。あの冬、ChatGPTが登場した。こうして機械は本当に私たちの言葉を読めるようになった。 だから、思い上がってはいけない。自分が言ったことが揺るぎない真理だと思っていても、真理は変わる。私はPythonインタプリタの裏側の仕組みを知っていたがゆえに、自然言語でプログラミングするなど非現実的だと決めつけ、その需要が確かに存在することを見落としていた。ChatGPTが公開された直後も同じことが起きた。私の周囲で最も冷ややかだったのはNLP研究者たちだ。力業で美しさのかけらもない、と。Transformerアーキテクチャを知り抜いていた人たちこそが、知りすぎていたために魔法を感じ取れなかったのだ。 そして今日、[自然言語こそ新しいプログラミング言語だ](https://x.com/karpathy/status/1617979122625712128)ということを疑う人はいない。書くこととプログラミングの統一性はもっと昔に示されていた。SICPの有名な一節——プログラムは人間が読むために書くべきであり、たまたま計算機が実行できるにすぎない。Paul Grahamは『ハッカーと画家』でもっと直截に述べている。ハッカーと画家は同じ創り手であり、良いコードの基準は良い散文の基準と同じだ——明快で、簡潔で、リズムがある、と。私も大学の国語(中国語作文)の期末レポートでまさにこの主張を書いた。 ## プログラミングパラダイムの進化 ![Software 1.0、2.0、3.0の版図](https://gardenplace.me/images/posts/Software-3.0.png) Karpathyは2017年に[『Software 2.0』](https://karpathy.medium.com/software-2-0-a64152b37c35)という記事を書き、ソフトウェアを二世代に分けた。2025年の[YCでの講演](https://www.youtube.com/watch?v=LCEmiRjPEtQ)で第三世代を加えた。三世代の違いは何の言語で書くかではなく、プログラムがどうやって生まれるかにある。 ### 1.0:人が書く まずルールを考え抜き、一行一行if-elseとして打ち込む。コンパイラ、OS、データベース、Excel、TCP/IP——今日使っているソフトウェアの大半はこうして作られた。バグが出れば、書き間違えた箇所まで一行ずつ追える。 コンパイラは1.0の極致だ。テキストが寸分の狂いもなく構文木に分解されなければならず、空白ひとつ多くても通らない。利点は決定性——同じ入力に対して必ず同じ出力が返る。代償は、書けるのが専門家だけだということ。あの時代、ソフトウェアエンジニアは世界中で足りていなかった。 2022年の秋に友人に言ったあの話は、まさに1.0の世界観だった。機械はルールしか理解しない。人が機械に合わせるしかない。 ### 2.0:機械学習 人間には書けないルールがある。猫と犬は何が違うのか。スパムメールとはどんなものか。ルールが書けないなら、書くのをやめて発想を変える。目的関数とデータとネットワークの骨格を与え、勾配降下法に重み空間の中でプログラムを探させる。見つかるのは浮動小数点数の山であり、なぜうまくいくのか誰にも説明できない。ブラックボックスだ。 なぜニューラルネットワークでなければならないのか。重み空間が連続かつ微分可能でなければ勾配が進めないからだ。決定木にはその性質がない。Karpathyの原文はこう言い切っている——Software 2.0はニューラルネットワークの重みで書かれている。顔認識、音声認識、機械翻訳、TikTokやYouTubeのレコメンドシステム、AlphaGo、すべて2.0だ。Google検索の転置インデックスは1.0、2015年以降ランキングに組み込まれたRankBrainは2.0。 「ルールを人が書く必要はない」という知見は、実はもっと前に一度勝利を収めている。呉軍は『数学の美(数学之美)』の中でこう述べている。1950年代以降、NLPの主流はルールベース学派であり、Chomskyの路線に従って言語学者が文法を一条ずつ手書きしていた。1970年代にIBMのJelinekが統計的手法を音声認識に持ち込み、誤り率を一気に押し下げて、こんな言葉を残した——"Every time I fire a linguist, the performance of the speech recognizer goes up." 両派は十数年争い、1990年代には統計学派が全面的に勝利した。あれはすでにルールを手書きしない道の勝利だった。ただし当時プログラムを探すのに使っていたのは確率モデルであって、ニューラルネットワークではなかった。 2.0にはもうひとつ特徴がある。ひとつのモデルがひとつのことしかできない。顔認識のネットワークは碁を打てないし、碁を打つネットワークは翻訳できない。問題を変えるたびにデータを集め直し、一から訓練し直す必要がある。これがANI——狭い人工知能、専用知能だ。ソフトウェアエンジニアだけでなく機械学習エンジニアも必要になり、大規模データ基盤も要る。個人がモデルをゼロから訓練するのは、すでに現実的でない。 ### 3.0:自然言語 2.0が見つけたプログラムの中に、ひとつ非常に特殊なものがあった。インターネット上のほぼすべてのテキストで訓練されており、文法もライブラリもStack Overflowのあらゆる議論も数兆個のパラメータに圧縮されていて、入力は最初から言語だ。再訓練する必要はない。ただ話しかければいい。あなたの言葉がコンテキストウィンドウに入り、振る舞いが変わる。重みはひとつも動かない。 これが2.0との根本的な違いだ。訓練は一度きり。その後は問題を変えても再訓練は要らない——promptを変えるだけでいい。ChatGPT、Claude Code、これらがこの世代だ。Google検索も移行しつつある。AI Overviewsがすでに転置インデックスの上に表示されている。同じモデルがさっきSQLを書き、次の瞬間に履歴書を直し、そのまた次の瞬間に量子もつれを解説する。これがAGIかどうかは議論がある。「一度の訓練で、どこにでも使える」ことに議論はない。 必要なのは、promptを書ける人だけだ。そしてpromptを書くとは、つまるところ自分の言いたいことを明確に言うことにほかならない。その人は、あなた自身でありうる。 なぜ言語がこれを成し遂げたのか。言語には生まれながらに世界を動かす力があるからだ。呪文、法令、契約——口にした瞬間に現実を変えるもの。Austinが1955年にハーバードで行った講義のタイトルはそのものずばり[『言語と行為(How to Do Things with Words)』](https://en.wikipedia.org/wiki/How_to_Do_Things_with_Words)だった。コードはその中で最も厳密な一種にすぎない。厳密すぎて、専門家しか唱えられなかった。Navalはこう言っている——プログラマはかつて魔法使いのようなもので、難解な呪文を暗記しなければ術を使えなかった。AIとは[すべての人に魔法の杖を配ること](https://nav.al/ai#:~:text=every%20human%2C%20in%20a%20sense%2C%20is%20a%20spellcaster)だ、と。あらゆる問題は言語で記述できる。だから言語を学んだプログラムは、あらゆる問題への入り口を手にしたのだ。 Karpathyはpromptはプログラムだと言う。私はこれを修辞だとは思わない。一片のテキストが機械の振る舞いを変える——これがプログラムの定義だ。 冒頭の図は少し誤解を招く。Software 2.0と3.0は、それ以前の1.0の領土を食い荒らしただけではない。むしろ主に、はるかに多くの新しいソフトウェアを生み出した。とりわけ3.0は、さらに多くの新しいソフトウェアを生み出すだろう。かつてはコストの面からソフトウェアでは満たせなかったニーズが、今は満たせるようになった。 ![Software 1.0、2.0、3.0の版図は拡大している——2.0と3.0は主に新しい領土の開拓であり、1.0の置き換えではない](https://gardenplace.me/images/posts/Software-3.0-new.svg) ### 対照表 | | Software 1.0 | Software 2.0 | Software 3.0 | | --------- | --------------------- | ---------------------- | ---------------------------------------------------------------------------- | | プログラムの生まれ方 | 人が書く:ルールを考え抜き、コードにする | 訓練:データの中から探し出す | 話す:自然言語でコンテキスト内に指定する | | プログラムの姿 | ソースコード——決定的、可読、監査可能 | 重み行列——数十億の浮動小数点数、解釈不能 | 自然言語——コンテキストウィンドウ内のtoken、人にも機械にも読める | | 人がやること | 要件分析→アルゴリズム設計→コーディング→テスト | 損失関数の定義、データセット構築、ネットワーク設計、ハイパーパラメータ調整 | 意図・制約・例示をコンテキストウィンドウに入れる | | ひとつのプログラムが解く問題の数 | ひとつ | ひとつ(ANI) | いくつでも(ある意味AGI) | | 代表的プロダクト | コンパイラ、データベース、転置インデックス、Excel | 顔認識、音声認識、レコメンドシステム、AlphaGo | AIチャットボット、コーディングエージェント、AI音楽生成、AI画像生成、ワーキングエージェント | | 必要な人材 | ソフトウェアエンジニア | ソフトウェアエンジニア+機械学習エンジニア | 言いたいことを明確に言える人(プロダクトマネージャー) | | デバッグ方法 | ブレークポイント、ステップ実行、スタックトレースを読む | データ分布の確認、ハイパーパラメータ調整、構造変更、再訓練 | promptを直す:コンテキスト追加、例示、言い換え | | 失敗の姿 | バグ:再現可能、追跡可能 | 汎化失敗、過学習:経験頼みの錬金術 | ハルシネーション、意図の誤解:堂々と間違える | 壁は消えたのではない。場所が変わっただけだ。1.0はアルゴリズムと文法で試され、2.0はデータと数学で試され、3.0は意図を明確に伝えられるかで試される。 では意図と表現はどう鍛えるのか。同じ「promptテクニック」でも、期限切れになるものと永く使えるものがある。[次の記事](https://gardenplace.me/ja/posts/the-prompt-trick-that-never-expires/)を参照してほしい。 ## さらに読む - Andrej Karpathy, [*Software 2.0*](https://karpathy.medium.com/software-2-0-a64152b37c35)(Medium、2017)——1.0/2.0の原型的区分。 - Andrej Karpathy, [*Software Is Changing (Again)*](https://www.youtube.com/watch?v=LCEmiRjPEtQ)(YC AI Startup School、2025)——3.0の提唱。promptはプログラムである。 - Paul Graham『ハッカーと画家——コンピュータ時代の創造者たち』(オーム社、2005年。原著 *Hackers & Painters*、2004)——プログラミングは創作行為であり、良いコードの基準は良い散文と同じ。 - Naval & Nivi, [*A Motorcycle for the Mind*](https://nav.al/ai)(Naval Podcast、2026-02)——「すべての人間は魔法使いだ」の出典。 - 呉軍『数学の美(数学之美)』(人民郵電出版社、2012年。初出は2006年のGoogle中国ブログ連載)——第2章「自然言語処理:ルールから統計へ」。ルールベース学派と統計学派の十数年にわたる抗争。日本語訳はない。 --- # Hello from Garden Place - URL: https://gardenplace.me/ja/posts/hello-from-garden-place/ - Published: 2026-08-22 - Updated: 2026-09-11 - Stage: 常緑 - Tags: meta ![finding the questions](https://gardenplace.me/images/posts/finding-the-questions.png) — Sir Arnold, *Yes Minister*, "Party Games" 2014年の夏、高考(ガオカオ——中国の全国統一大学入試)が終わり、模範解答を受け取りに学校へ戻った日の午前、私は旧ブログの最初の記事[『この夏、僕らが失うもの』](https://gardenplace.me/ja/posts/what-we-lose-this-summer/)を書いた。その結びで、十八歳の私はひとつ願をかけた。「大それた志はない。ただ十年後、自分の嫌いな人間になっていないことを願うだけだ」。 十二年が経った。振り返ってみれば、この願いはまず叶ったと言っていい。当時の文章を読み返しても距離感はほとんどなく、まるで昨日のことのようだ。どうやら私の核は変わっていないらしい。理想の自分に百パーセントなれたわけではないが、少なくとも皮肉屋にも、世渡りだけ上手な人間にもならなかった。むしろ、あの頃より気力も活力もあり、未来への期待も大きい。多くの人がこの歳にはもう固まってしまうものだが、私は自分がまだ成長していると感じるし、人生はまだ始まったばかりだとさえ思う。AIの登場が、私の内面の摩擦をすべて溶かしてしまった——AIのない人生は生きるに値しない、とさえ思うほどに。 その間に何度も引っ越しをした。今回は、高校時代に始めたブログも一緒に引っ越すことにした。いまこの文章を書いているのは、私の境遇が十二年前とちょうど重なったからだ。高考の後とまったく同じ空白期にいる——やりたいことを今すぐやらない言い訳は、もうどこにもない。 人が一生のうちに本当に解くべき問題は、実はほんの数個しかない。ところがほとんどの人は、ほとんどの時間、その問題にあまり目を向けない。立派な箱を買って、中の真珠を返してしまった男の昔話は、ただの寓話ではない。枝葉を追って根本を捨てることこそ、この世の常なのだ。 ここにある内容の多くがAIに関わっている、と気づくかもしれない。それは私が「AIで何を解決できるか」から考え始めているからではない。人間を起点に、本当に大事な問いを考えるたびに、AIが新しい視点を——ときには大きな前進を——もたらしてくれるからだ。 私が生まれた国では、メリトクラシーが幅を利かせている。人々はより正しい答えを出すことを奨励されるが、問いを立てることは許されない。そして人の評価は、たいてい問題を解く能力だけで決まる。だが私の中では、人を測るものさしは、問題をどれだけ上手に解けるかではなく、どの問題を解くことを選ぶかであるべきだ。正しい道を歩いている人にとって、賢いかどうかは大した問題ではない——答えにたどり着くのが少し早いか、少し遅いかを決めるだけだ。そして、すでに正しい問題に照準を合わせた人は、幸福へ向かう道の途中にいるのではなく、すでに幸福の中にいる。 だからこの庭に収めるのは、結論ではなく問いだ。結論はすぐ古びるが、良い問いは長く残る。私はこれから、たくさんの「living questions(生きた問い)」を長期にわたって育てていく。なぜその問いが重要なのか。どの数字を追い続ける価値があるのか。各陣営はいまどこに立っているのか。そして、日付を添えた、私自身の現時点の見解。自分に真の見識があるとは思っていない——深すぎて、あるいは新しすぎて、まだ誰も確かな答えを見つけていない問いもあれば、人生の永遠の課題というべき問いもある。それでも、正しい問いを立てること自体が、読む人の注意に値するものを差し出すことになるはずだ。 そして、このブログを書きたい一番の理由は、自分の声を届けたいからだ。私の声はこの世界を少し良くできる、と信じている。いま、あまりに多くの人が、不安からAIを学ぼう、使おうとしている。たとえば、流行りのあの言葉——「あなたに取って代わるのはAIではなく、AIを使いこなす人間だ」。私の耳には、こう聞こえる。馬に取って代わるのは自動車ではなく、自動車を運転できる馬だ、と。私自身の実感は正反対だ。私たちは幸福への憧れからAIを使うべきであり、AIは実際に私たちをより幸福にしてくれる。自動車が現れてから、馬は戦場で死ぬことも、馬車を引き続けることもなくなった。自動車は馬を労役から解放したのであって、馬により多くの仕事をさせたのではないし、ましてや馬を自動車と競走させたのでもない。 ブログ名のGarden Placeは、[恵比寿ガーデンプレイス](https://gardenplace.jp/)のことだ。大学を出て仕事のために日本へ来たとき、最初に暮らした場所であり、自分の人生が本当に始まったと感じる場所でもある。Message from Garden Placeという名前には、ここがあなたの思索の裏庭にもなりますように、という願いを込めた。 実はこのブログを構想したとき、インターネット上にすでに「[デジタルガーデン](https://maggieappleton.com/garden-history)」というムーブメントがあることを知らなかった。その後サイトのデザインを探しているうちに、偶然Maggie Appletonによるデジタルガーデンの小史にたどり着き、彼女の哲学と自分の考えが驚くほど重なっていることに気づいた。記事とは書いたら捨てる消耗品ではなく、手入れを続ける植物なのだ——芽生えたばかりのアイデア(芽生え)、形になってきたがまだ書き続けているもの(若木)、書き上げたが最新の事実に合わせて手入れを続けるもの(常緑)。ブログ名にも「ガーデン」が入っている以上、この用語を借りて各記事の成熟度を示すのはこれ以上なく自然なことだった。各ページで、その記事がいまどの成長段階にあるかを見ることができる。 どうか何度でも訪れてほしい——同じ記事にでも。故きを温ねて新しきを知るためではなく、ここの記事は本当に更新され続けるからだ。従来のメディアは流れ作業だった。記事はひとたび発表されれば、その是非はもう問われない。それは印刷術の時代のメディアであって、情報時代のメディアがそうであってはならない。このサイトはひとつの公開された知識ベースになる。どの記事も生きた項目であり、見解は変わり、解決策は変わり、事実さえも変わっていく。ページの「最終更新」の時刻に気をつけていてほしい。いつか旧い記事を読み返して、記憶と違っていても、それはあなたの記憶違いではない——新しいアップデートがあったのだ。こうした版の移り変わりはgitで管理する。錆びついた結論をネットに釘づけにしたまま立ち去るのは、無責任というものだから。 --- # この夏、僕らが失うもの - URL: https://gardenplace.me/ja/posts/what-we-lose-this-summer/ - Published: 2014-06-09 - Stage: 常緑 - Tags: エッセイ, 生活, 随想 > **📝 Note** > > 高考(ガオカオ)は中国の全国統一大学入試。高校の最後に一度きり行われ、ほとんどの受験生にとって、進学できる大学はこの一度の試験だけで決まる。中国では、青春は「高考前」と「高考後」に分けて語られるのが常だ。この文章は旧ブログの最初の記事で、結果が出る前、模範解答を受け取りに学校へ戻った日の午前に書いたものである。 正直に言うと、いま僕はひどく緊張している。午後に模範解答を受け取りに行くからではない。出来がどうかは、とっくに自分の中で見当がついている。ただ作文だけは、思い切って攻めた書き方をしたせいで、かろうじて非現実的な期待をひとつまみ残してくれている。僕を本当に緊張させているのは、こういうことだ——これからは、自分の人生と真剣に向き合わなければならない。やりたいことを今すぐやらない言い訳はもうないし、何でも気の向くままに「高考が終わってから」へと先延ばしにすることも、もうできない。 好きに浪費できた日々は、これで永遠に戻らない。もう以前のように、心置きなく気ままにだらけて、都合が悪くなればDotaの話ではぐらかす、というわけにはいかないだろう。今日できないことを、明日に期待してはいけない。実のところ、これまで難しいと感じていたことは、いまも同じだけ難しい。本を開いても序文と目次しか読まず、理論は表面をなでるだけ、技術はさわりを覚えて終わり。かつての僕には高考という盾があったかもしれない。だがこの先も同じ調子でいれば、この一生は浅薄と連れ添うことになり、深みに埋もれた美しさに出会う幸運には、もう恵まれないだろう。三年間を振り返れば、自分を引っぱたきたくなるほど愚かなこともしたし、いまの僕がほっとするようなこともした。過ぎ去った時間について、正しいも間違いもないし、後悔も誇りもない。ただこれを戒めに、率直に生活と向き合い、逃げないこと。それで十分だ。 もちろん、盾を失うのと同時に、僕は枷からも抜け出した。学生時代の画一的な基準は、ある人にとっては幸運でも、僕にとっては不運だった。みんながその基準に向かって努力している間、僕はその基準の裏にある意味を疑っていた。弱い人間のすることかもしれない。でも、誰が本気で気にするだろう。今日からは、教科書に何と書いてあるかを気にする必要はない。自分が真理に一番近いと思う記述だけを覚えておけばいい。真理の簡略版を暗記するだけではもう満足しない。その導き方を、意味を、背後にある物語を、自分で見つけに行く。これは自由であり、挑戦でもある。是と非も、真理と誤謬も、自分で見分けるほかない。完全無欠な証明のほかに、僕を納得させられるものは何もない——滔々と語っているのが、アリストテレスやニュートンに並ぶ人物、スピノザやラッセルと肩を並べる大家であったとしても。 ああ、僕と級友たちは、もうすぐ別れる。僕らと一緒に去っていくのは、かつての青くさい僕ら自身だ。この学校にまた足を踏み入れる機会は、もう多くない。国語の先生にこう言ったのを覚えている——もうすぐ学校を出るのに、花壇の花の名前をまだ全部は言えないんです。するとその男の先生は笑って答えた。「大丈夫、うちの生物の先生だって全部は言えないから」。僕はよく考える。十年後、僕とこの級友たちは、それぞれどんな人間になっているのだろう。それは本当に分からない。学生時代は、人生の頂点にもなりうるし、どん底にもなりうる。ここで最良の自分と別れてしまう人もいれば、ここからようやく幸福な日々が始まる人もいる。実のところ、若い人間はそう捨てたものじゃない。大人になってから、人は醜い仮面を一枚、また一枚と自分にかぶせていくのだ。大それた志はない。ただ十年後、自分の嫌いな人間になっていないことを願うだけだ。 失うものがあれば、得るものもある。今度の高考を通じて、僕はひとつの事実を確かめられた。僕という人間は、肝心なときに実力以上を出せるとは限らないが、出すべき実力はちゃんと出せるらしい。もちろん、それは普段のちゃらんぽらんの言い訳にはならない。それでも、肝心なときの自分の心持ちには自信が持てた。この恩恵にあずかるのは、きっと試験だけではないはずだ。 2014年6月9日 自宅にて --- # Colophon - URL: https://gardenplace.me/ja/colophon/ ## アイコン {{< colophon-images >}} サイトアイコンのデザインは、恵比寿ガーデンプレイスのドーム屋根から着想を得た。同時に、Messageの頭文字であるMも表している。 ## 名前 Message from Garden PlaceのGarden Placeは、恵比寿ガーデンプレイスのことだ。大学を出て仕事のために日本へ来たとき、最初に暮らした場所であり、自分の人生が本当に始まったと感じる場所でもある。この名前には、ここがあなたの思索の裏庭にもなりますように、という願いを込めた。詳しいいきさつは[Hello from Garden Place](https://gardenplace.me/ja/posts/hello-from-garden-place/)に書いている。 ## ツール 本ブログは [Hugo](https://gohugo.io/) で生成し、テーマは [PaperMod](https://github.com/adityatelange/hugo-PaperMod/) だが、スタイルは大幅にカスタマイズしている。静的サイトで、コメント機能はない。サイト内検索はサーバーを介さず、ブラウザの中で行われる。 ## 書体 サイト名と見出しには [Rajdhani](https://fonts.google.com/specimen/Rajdhani) を使い、オープンフォントライセンス(OFL)のもと自前で配信している。本文とコードもシステムフォント。ページは第三者のドメインから何も読み込まない。 ## ホスティング [Vercel](https://vercel.com/) でホスト。 ## メール メール購読は [Resend](https://resend.com/) を通して行う。 ## 生長段階 {#growth-stages} ここにある記事には、[digital garden](https://maggieappleton.com/garden-history)の慣わしにならって生長段階をつけている。芽生えは書き始めたばかりのメモ。粗く、未完成だが、人目のあるところで育てるために先に出しておく。若木は形になってきたが、まだ書き続けている記事。常緑は書き上げた記事で、その後も手入れを続ける。隣の「更新」の日付が、最後に手を入れた時を示す。[Hello from Garden Place](https://gardenplace.me/ja/posts/hello-from-garden-place/)で書いた通り、大事なのは結論ではなく問いのほう。 ## リンクの共有 記事の各見出しにはアンカーがある。見出しにカーソルを合わせると左に `#` が現れる——クリックするとその見出しへのリンクが得られる。 段落にもアンカーがある。本文の段落にカーソルを合わせると、左に `¶` が現れる。クリックすると URL が `#p-xxxx` の形になる。この符号は段落の先頭 120 文字のハッシュ値で、テキストそのものに紐づいており、記事内の位置には関係ない。 ## AI フレンドリーな設計 ここの記事を AI ツールで要約したり分析したりするのは大歓迎だ。この少し特別な読み手のために、入口も設けてある。[llms.txt](https://gardenplace.me/ja/llms.txt)はサイト全体の目次で、記事ごとに短い紹介を添えてある。[llms-full.txt](https://gardenplace.me/ja/llms-full.txt)は全記事の本文を一巻にまとめたもので、AI が通して読めるようにしてある。 各記事には Markdown 版も用意してある。アドレス末尾の `/` を `.md` に替えればアクセスできる。たとえば[Hello from Garden Place](https://gardenplace.me/ja/posts/hello-from-garden-place.md)。記事ページを `Accept: text/markdown` ヘッダー付きでリクエストしても、対応する Markdown 版にそのまま転送される。 ## 言語 中国語が原文で、英語と日本語はそこから訳したもの。 --- # Guoliang Chen - URL: https://gardenplace.me/ja/about/ 私たちは、遺伝子(gene)が長い進化の中で形づくった身体をハードウェアとし、世代を超えて受け継がれてきた観念(meme)をソフトウェアとしながら、日々変わりゆく情報の時代に生きている。だから、このすべてに一人で向き合わざるをえない。 私は世界のルールを理解し、新しい空間を開拓し、資源を手に入れ、アイデアを現実に変え、創造し、築きたい。 私は世界と自分自身を観察し続け、欲望や惰性やルールが自分の選択にどう影響しているかを見きわめたい。 私は自分自身の判断と能力、そして生活の基盤を築き、選択の結果を引き受けたい。 彼岸の約束がもはや信じられなくなり、世界の不条理を前にしても、私は息を吸い、吐く。その一瞬一瞬を、真剣に生きることを選ぶ。 ここの文章には、芽生えから若木、そして常緑へと、それぞれの成長段階がある。私は折に触れて戻り、書き足し、剪定し、ときには植え替える。気軽に何度でも訪ねてほしい。 「われわれは自分たちの庭を耕さねばならない。」 ——ヴォルテール、[『カンディード』](https://fr.wikisource.org/wiki/Candide,_ou_l%E2%80%99Optimisme/Garnier_1877/Chapitre_30)