PRELAPS 文字化け直し

このサイトについて

Prelaps(mojibake.prelaps.com)は、文字を扱っていて詰まる場所を片づけるための小さな道具を集めたところです。どのツールもブラウザの中だけで動き、入力した内容をサーバーに送りません。以下は最初のツールである 文字化け直し についての説明です。

何をするツールか

¾È³çÇϼ¼¿äã“ã‚“ã«ã¡ã¯ のように読めなくなった文字を、元どおりに戻します。日本語だけでなく、韓国語・中国語・ロシア語を含む12言語に対応しています。

文字化けの原因はひとつです。A の方式で保存したデータを B の方式で読んだこと。ですから復元も同じ2段階を逆にたどります — 化けた文字を読み違えた方式で押し戻して元のバイトを復元し、本当の方式で読み直します。どの組み合わせが正しいかは分からないので、220通りをすべて試して、いちばん自然な結果を選びます。

なぜ作ったか

この種の修復には ftfy という定番のライブラリがあります。英語圏の Web でよく見る ’ 系を狙った道具で、その領域ではほぼ完璧です。

しかし日本語・韓国語・中国語の文字コードが絡む化け方は対象外です。同じベンチマークで測ると次のようになります。

化け方件数ftfy 6.3.1このツール
CJK の文字コードとして誤読200.0%100%
CJK の原文が化けた場合510.0%66.7%
キリル文字の文字コードとして誤読3915.4%97.4%
UTF-8 → 西欧の誤読(ftfy の主戦場)3196.8%100%

ftfy の得意分野で勝ったと主張するつもりはありません — 31件で100%対96.8%は事実上の同点で、その領域では ftfy のほうが精緻です。差が出るのは別のところ、CJK の文字コードが絡む71件で ftfy が1件も復元できないという点です。このツールが存在する理由はそこにあります。

どう作られているか

すべてブラウザの中で動きます。テキストを受け取るサーバーはなく、会員登録もなく、何も保存しません。タブを閉じればすべて消えます。

精度は主張ではなく計測しています。12言語148件のベンチマークをエンジンの変更ごとに走らせています — 第1候補が正解する割合84.5%、候補3件以内に正解がある割合96.6%。この数値はその標本に対するもので、あらゆる入力を保証するものではありません。利用規約もご確認ください。