Up HTML の応答 作成: 2025-06-28
更新: 2025-06-28

    ChatGPT の応答は，HTMLタグを用いて入念に修飾されている。
    この HTMLテクストの生成は，Transformer の能力のうちということになる。

    一見，応答の生成を最初から HTML でやるというのは，あり得ないことのように感じる。
    しかし少し考えると，HTMLテクストの生成が Transformer には合っているが，わかってくる。


    Transformer は応答を，木構造ベースの入れ籠構造でつくる。
    即ち，上位レベルと下位レベルの間の降ったり昇ったりを
    　　「籠を作って中に入り，そこでの処理が済んだら，
    　　　籠を作ったときの元の場所に再帰する」
    のアルゴリズムでやっている。
    そして HTML は，この再帰アルゴリズムを明示的に表現する言語なのである。

    HTML は，テクストの入れ籠構造をタグでつくる：
    　「タグ "< ‥‥>" を以て籠を作ってその中に入り，
    　　そしてタグ "< /‥‥>" を以て籠を解消して外に出る」


    こうして，Transformer は，プログラムの作成全般が得意である。
    プログラムは，「入れ籠構造＝再帰アルゴリズ」だからである。
    というより，そもそも Transformer は，テクストをプログラムとして作成しているわけである。

    Transformer を，「再帰の鬼」と見るべし。
    Transformer のやっていることが，よく見えてくる。