人工知能の基礎から、NDL OCRを支えるTransformerまで
創作支援Web百科「Mulpedia」管理人の川村です。
前回用語解説の記事を上げましたが、今回は歴史を踏まえてのもう少し細かい用語になります。
そして、旧来のOCRと現在のOCRへの進化を紹介していきたいと思います。
しかし、実際にOCR(光学文字認識)のエンジンを自作システムに組み込もうとすると、「CNN」「RNN」「CTC」「Transformer」といった専門用語の嵐に直面します。「そもそもAIって何をしているの?」「ディープラーニングと普通のプログラムは何が違うの?」という根本的な疑問を抱く方も多いのではないでしょうか。
そこで今回は、「そもそも人工知能(AI)とは何をしているのか?」という基礎を解きほぐし、それがOCRという文字読み取り技術の中でどのように進化してきたのか、その歴史の変遷をじっくりと解説してみたいと思います。
そもそも「人工知能(AI)」とは何をしているのか?
OCRの歴史に入る前に、まずは前提知識となる「AIの基本的な考え方」を整理しておきましょう。
従来のプログラムとAI(機械学習)の決定的な違い
私たちが普段書く一般的なプログラム(DelphiやPythonなど)は、「ルール(命令文)を人間が事細かに記述する」ことで動きます。
例えば、「もし画面上のこの座標の色が黒で、隣も黒なら線を引け」といった具合に、人間が世界の法則を1から100まですべて論理的に定義してコンピューターに教え込みます。
しかし、世の中には「ルールを言葉で説明するのが極めて難しい問題」が無数に存在します。その代表例が「手書きの文字当て」や「猫の写真を当てること」です。私たちは「猫」を一瞬で見分けられますが、「猫とは何か?」を数式やIF文だけで完璧に定義しようとすると、毛並み、耳の形、ポーズ、照明の違いなど無限の例外にぶつかり、プログラムは破綻してしまいます。
そこで登場したのが「機械学習(Machine Learning)」です。人間がルールを教えるのではなく、「コンピューターに大量のデータ(画像と正解ラベル)を見せて、コンピューター自身に特徴や見分け方のパターン(勘どころ)を自動で見つけさせる」というアプローチです。
「ニューラルネットワーク」と「ディープラーニング(深層学習)」
その機械学習の中でも、人間の脳の仕組みを模倣して作られたのが「ニューラルネットワーク」です。
- 神経細胞(ニューロン)のネットワーク: 人間の脳には無数の神経細胞があり、電気信号を隣の細胞へバトンタッチしながら思考しています。これを数式で真似たのがニューラルネットワークです。入力(画像の点々など)を受け取ると、無数の仮想ニューロンが「この線は重要だ」「この点は無視しよう」と重み付け(計算)を変えながら信号を奥へと伝えていきます。
- ディープラーニング(深層学習): このニューロンの計算層(隠れ層)を何十層、何百層と深く(ディープに)重ねたものを指します。層が深くなったことで、初期の層では「単なる縦線や丸の断片」しか分からなかったAIが、奥の層に進むにつれて「目や鼻のパーツ」、最終層では「猫の顔全体」というように、極めて抽象的で高度な概念を自力で理解できるようになりました。
LLM(大規模言語モデル)とは?
昨今のChatGPTなどで有名になった「LLM(Large Language Model / 大規模言語モデル)」も、このディープラーニングの発展形です。
インターネット上にある何千億、何兆という膨大な文章データを学習し、「前後の言葉のつながり」を徹底的に叩き込まれたAIです。人間のように論理的思考をしているというよりは、「この単語の次に来る確率が最も高い言葉は何か?」を極めて高い精度で予測し続ける、超弩級の言語連想エンジンと言えます。
こうした「視覚を見極める目(ディープラーニング)」と「言葉を予測する頭脳(LLM)」の進化が、まさにOCRの歴史そのものを塗り替えていくことになります。
第1世代:古典的「1文字切り出し」とパターンマッチングの時代(〜2010年代初頭)
コンピューターの黎明期から続いていた初期のOCRは、ディープラーニングのような賢いAIではなく、人間が考えた幾何学的なルールだけで文字を判読していました。
処理の仕組み:二値化・余白の検出・パターンマッチング
この時代の処理は、まるでハサミと定規を使った職人パズルのような手順でした。
- 前処理(二値化): 読み込んだ書類画像を、基準となる明るさで白と黒の2色(2値)にスパッと塗り分けます。
- 行と文字の切り出し(セグメンテーション): 黒いドットが存在しない「白い隙間(余白)」を手がかりにして、文章を1行ずつ短冊状に切り分けます。さらに行の中で文字と文字の間の隙間を探し、「1文字ごとの四角い枠」へと物理的に分割していきます。
- パターンマッチング: 四角く切り取った画像から「縦線が何本あるか」「線の交差点がどこにあるか」といった特徴を抽出し、あらかじめシステム内に登録されている文字のフォント見本(辞書)と重ね合わせて、最も形が一致する文字を選び出します。
古典的アプローチの限界:「切り出しのパラドックス」
現代のワープロ文書のように、綺麗なフォントで文字と文字の間隔が均一に空いている文書であれば、この方式でも実用的な精度が出ました。しかし、Mulpediaが扱うような「近代の古い活字本」や「手書きの古文書」を前にすると、この手法は完全に破綻しました。
- インクが紙に滲んで、隣の文字と物理的にくっついている(隙間がないので切り出せない)
- 紙の劣化やかすれのせいで、1つの文字が途中で千切れている(1つの文字を誤って2文字に切り出してしまう)
- 「門」「川」「仁」のように、左右のパーツが離れている文字を、別々の独立した文字だと勘違いしてしまう
ここで技術者たちは、絶望的な矛盾に突き当たります。
「文字を正しく認識するためには、綺麗に1文字ずつ切り離さなければならない。しかし、それが何の文字かわからない限り、どこで切り離せば正解なのかは分からない」
この「卵が先か、鶏が先か」という「切り出しのパラドックス」こそが、古典的OCRが数十年間にわたって越えられなかった巨大な壁でした。
第2世代:CNN+RNNと「CTC」によるセグメンテーションフリーの革命(2015年頃〜)
この数十年続いた膠着状態を打ち破ったのが、ディープラーニングの実用化と、「そもそも文字を1文字ずつ切り出すのをやめよう」という逆転の発想でした。それを具現化したのが「CRNN + CTC」というアーキテクチャです。
「目」と「記憶」を合体させた「CRNN」
この方式では、文字を切り離さず、文字列の「行」をまるごと1本の帯としてAIに流し込みます。ここで使われたのが、先ほど紹介したニューラルネットワークの合わせ技です。
- CNN(畳み込みニューラルネットワーク / 目): 画像全体を細かくスキャンし、「ここに縦の棒がある」「ここに右上がりの払いがある」といった視覚的な部品(ストロークの特徴)を捉えます。
- RNN / LSTM(再帰型ニューラルネットワーク / 記憶): 時間の流れを追うように、左から右(縦書きなら上から下)へスキャンを進めながら、「さっき左払いの線があったから、この次は右払いが来て『人』という字になるはずだ」と、直前の特徴を記憶しながら前後のつながりを追いかけます。
「あ」と「ああ」をどう見分ける?――CTCの画期的なアイデア
行を丸ごとスキャンする際、最大の問題となったのは「文字の重複」でした。
行の上をビデオカメラで1ミリ刻みでコマ送り撮影しながら右へ進む様子を想像してみてください。文字には必ず横幅があるため、1文字を通過する間にカメラは何枚も写真を撮ってしまいます。その結果、AIは以下のように判定を連発してしまいます。
[AIの連続判定結果]: 「あ」 → 「あ」 → 「あ」 → 「い」 → 「い」
これを単純に繋げると「あああいい」という奇妙な文字列になってしまいます。
「同じ文字が連続したら1つにまとめればいい」と単純に処理してしまうと、今度は本当に「ああ」や「学校(がっこう)」のように同じ文字・促音が連続したときに、1文字に潰されて「あ」「がこう」と誤認識されてしまいます。
この難問を解決したのが、「CTC(Connectionist Temporal Classification)」というアルゴリズムが導入した「ブランク(_:空白・隙間)」という特殊なトークン(記号)でした。
- 「あ」という文字の幅を通過している間は、切れ目なく連続して「あ」と判定される:
[あ, あ, あ]→ 重複をギュッと縮約して 「あ」 とする。 - もし「ああ」と2文字連続で書かれている場合は、文字と文字の間にほんのわずかな「紙の隙間(ブランク)」が写り込む:
[あ, あ] → [ブランク(_)] → [あ, あ]
ブランクが間に挟まっているため、AIは「ブランクの前と後で、別の『あ』が2回書かれたのだ」と正確に判断し、正しく 「ああ」 と復元できる。
このCTCの発明によって、「どこからどこまでが1文字かを人間がハサミで切り出す必要(セグメンテーション)」が完全に消滅しました。
多少インクが滲んで文字同士がくっついていようが、行全体を一気に読み込ませれば正しい文章が出力されるようになったのです。オープンソースで最も有名なTesseract OCR(v4以降)にもこの仕組みが採用され、世界中のOCR精度が一気に底上げされました。
CTCベースの限界:文章の「意味」までは読めない
画期的なCTCでしたが、依然として弱点がありました。RNN/LSTMが記憶できるのはせいぜい「直前の数文字」程度であり、「文頭から文末までの長い文脈」や「文章全体の意味」を理解して文字を推測することはできなかったのです。文字のかすれや汚れがひどい場合、視覚情報だけに頼るCTCベースのOCRは誤読を避けることができませんでした。
第3世代:最新の覇者「Transformer」と視覚・言語の完全融合(2020年代〜)
そして現在、OCRの世界を完全に支配しているのが、ChatGPTなどの基盤でもある「Transformer(トランスフォーマー)」です。文字認識の歴史はここで、「画像を処理する技術」から「画像を言語へと直接翻訳する技術」へと完全に次元を跳ね上げました。
全体を一望する「ViT」と、文脈を紡ぐ「言語モデル」の融合
最新のTransformerベースのOCRは、人間が本を読むプロセスと完全に一致しています。人間は、一文字一文字の形だけを見て読んでいるわけではありません。「文章全体の意味の流れ」を脳内で補完しながら文字を認識しています。
- ViT(Vision Transformer / ビジョン・トランスフォーマー): 画像を小さな正方形のタイル(パッチ)に分割し、すべてのタイル同士の関連性を一瞬で全体俯瞰して把握する最新の画像認識モデルです。従来のCNNのように局所的な虫眼鏡で見るのではなく、最初から「紙面全体をパノラマ写真のように一望」します。
- 自己注意機構(Self-Attention): 「このタイルの文字は、数行離れたあのタイルの単語と強い意味的関係がある」という結びつきを、距離に関係なく瞬時に計算する仕組みです。
| 世代 | 文字の特定方法 | 文脈(言語知識)の利用 | かすれ・連綿体への耐性 |
|---|---|---|---|
| 第1世代:切り出し | 余白を探して四角く切り取る | まったくない(形の一致のみ) | 極めて弱い(少しの滲みで崩壊) |
| 第2世代:CNN+RNN (CTC) | 行を細かくスキャンし、隙間記号で整列 | 直前の数文字など局所的な文脈のみ | 強い(行単位で一括処理) |
| 第3世代:Transformer | 紙面全体を俯瞰し、意味から文章を生成 | 極めて強力(文章全体の意味を考慮) | 圧倒的に強い(読めない文字も文脈補完) |
「潰れて見えない文字」を、前後の文脈から推理して復元する
TransformerベースのOCRの最も驚異的な能力は、「視覚的に完全に潰れて読めない文字でも、文脈から正しい文字を割り出せる」という点です。
例えば、古い文献の中に以下のような一文があったとします。
「吾輩は猫で[?]る。名前はまだ無い。」
もし[?]の部分に墨がこぼれて真っ黒に塗りつぶされていた場合、どうなるでしょうか?
- 第1世代のOCR:四角いゴミとして認識し、エラーになる。
- 第2世代(CTC):黒い四角形に近い漢字(「田」や「口」など)を無理やり当てはめて誤読する。
- 第3世代(Transformer): 「前に『吾輩は猫で』があり、後ろに『る』が続き、さらに『名前はまだ無い』と呼応しているなら、文脈的にここに入る文字は『あ』以外にあり得ない」と、文章全体の高度な言語確率に基づいて、欠損した文字を正確に復元して出力します。
視覚情報の処理(ViT)と言語モデル(LLMの基礎技術)が完全に一体化しているからこそ成し遂げられる、まさに現代AIの真骨頂です。
国立国会図書館「NDL OCR」の真実:なぜTransformerが不可欠なのか?
ここで、Mulpediaプロジェクトの根幹に関わる国立国会図書館の「NDL OCR」に話を戻しましょう。
国立国会図書館(NDL)が保有し、デジタル化を進めている明治・大正・昭和初期の歴史的文献は、現代の活字とは比較にならないほどの悪条件の塊です。
- 現代のフォント規格とはまったく異なる、職人が手彫りした古い金属活字
- 紙の経年劣化による茶色い黄ばみ、虫食い、インクの激しい裏写り
- 漢字の横にびっしりと書かれた極小の「ルビ(振り仮名)」
- 縦書きと横書きの混在、右から左へ読む新聞の見出し、入り組んだ多段組レイアウト
一般的なオフィス向けOCRや第2世代までのOCRをこの文献群に適用しても、ルビを本文と誤認して文字が混ざり合ったり、裏写りの影を文字として誤認識したりと、実用的なテキスト化は到底不可能でした。
NDL OCRの内部で躍動するTransformer
国立国会図書館が開発し、オープンソースとして世界に公開している「NDL OCR(v2以降や、その軽量推論版であるNDL OCR-Lite等)」が、なぜあの劣悪な紙面から90%を超える驚異的な精度で文字を読み取れるのか。その秘密こそが、文字認識および紙面レイアウトの解析エンジンに最新のTransformer技術を全面採用しているからです。
NDL OCRは、紙面全体を俯瞰して「どこが本文で、どこがルビで、どこが見出しか」というレイアウト構造(バウンディングボックスの配置と順序)をTransformerベースのモデルで高精度に把握します。そして、かすれや汚れのある近代活字を、膨大な古典文献データを学習したモデルが文脈の力を借りて正確に読み解いていきます。
NDL OCRは単なる「文字スキャンツール」ではありません。「近代日本の出版文化と日本語の文脈を丸ごと学習した、歴史専用の巨大な人工知能」なのです。
しかし、100%ではない――最先端モデルが抱える「誤認識」の落とし穴
ここまで読むと、「NDL OCRを使えば、どんな古文書でも100%完璧にテキスト化できる魔法の杖なのか」と思われるかもしれません。しかし、現実のシステム運用はそう甘くはありません。最新鋭のTransformerといえども、依然として数々の「誤読」や「認識エラー」を避けることはできないのです。
① 強力な文脈補正が仇となる「もっともらしい誤読(ハルシネーション)」
Transformerの最大の強みである「文脈から推測する力」は、時として裏目に出ます。文字のカスレがあまりにも激しい場合、画像上に実際に書かれている文字を無視して、「言語モデルとして前後の繋がりが最も自然な、まったく別の単語へと勝手に脳内変換して出力してしまう」という現象が起きます。
生成AIの「ハルシネーション(もっともらしい嘘)」と全く同じ病理が、OCRの現場でも発生するのです。一見すると完璧に意味の通る美しい日本語が出力されているため、人間が原本と見比べない限り誤りに気づきにくいという、極めて厄介な罠となります。
② 物理的ノイズと複雑な段組のトラップ
インクの濃い「裏写り」や用紙の折り目、シミなどが文字のストロークと酷似している場合、存在しない幽霊のような文字を拾ってしまうことがあります。
また、古い新聞や雑誌に見られる「複雑な多段組」や、広告枠が割り込んだ紙面では、Transformerをもってしても「次に読むべき行」の順序(リーディングオーダー)を読み違え、文章の前後関係がバラバラに連結されてしまうケースも珍しくありません。
③ 辞書にない「稀少な異体字・外字」の限界
歴史的な文献には、現代のJIS漢字コードや一般的な辞書には存在しない、極めて特殊な異体字、旧字体、あるいは筆者独自の手癖による変体仮名が頻繁に登場します。AIが学習した数百万文字のデータセットの「外側」にある文字に対しては、どれほど巨大なモデルであっても似たような別の文字へと誤って丸め込まれてしまいます。
だからこそ、「手元のDelphiクライアント」が真価を発揮する
識字率90%〜95%というのは、学術研究や検索インデックス用途としては驚異的な数値です。しかし、「創作支援のナレッジベース」として信頼できる一次資料を構築するためには、残りの5%〜10%のエラーを放置するわけにはいきません。
全自動で100点満点を取ることは不可能なのだから、「AIが吐き出したテキストと原本画像を並べ、人間が素早く比較・修正できる仕組み」がどうしても必要になります。私が手元のWindows環境(Delphi)でMulpediaクライアントを内製し、超高速な差分確認やキーボードショートカットによる爆速校正エディタを実装しようとしている最大の理由が、まさにここにあります。
AIの知能と、人間の眼差しが交差する場所
「1文字を枠で囲って辞書と見比べていた」素朴な黎明期から半世紀。OCRの歴史は、人間の神経細胞を模倣したニューラルネットワークの誕生を経て、画像の全領域と言語の意味論を同時に計算する「Transformerの時代」へと到達しました。
しかし、技術がどれほど極限まで進化しようとも、機械学習である以上、確率の揺らぎや誤読の可能性がゼロになることはありません。だからこそ、最先端AIの圧倒的なパワーを借りて9割の重労働を一瞬で片付けつつ、最後の1割の魂を吹き込む作業を手元のネイティブアプリで人間が丁寧に見届ける――その「ハイブリッドな調和」こそが、個人開発における最も健全でエキサイティングな戦い方だと確信しています。
ブラックボックスに見えがちな最新AIツールの裏側で、先人たちがどのような壁にぶつかり、どのような数学的・論理的ブレイクスルーによってそれを乗り越えてきたのか。そして、どこに今なお越えられない限界があるのか。その解像度を持つことで、手元で動かす1行のコードに対する愛着も一層深まります。
次回は、NDL OCRの少し深い解説を行いたいと思います。
それでは、次回もお楽しみに!

