Preferred Networks(PFN)は11月5日、翻訳特化型大規模言語モデル「PLaMo 3 Translate」のモデル重みを公開しました。0.8B、2B、8B、31Bという4つのサイズで提供され、最小モデルの0.8Bでさえ、30倍以上大きな既存の翻訳特化LLMを上回る性能を達成したと報告されています。53言語に対応し、日本語と多言語間の翻訳だけでなく、多言語同士の翻訳にも対応しています。モデルはHugging Faceで公開され、GGUFやMLX形式も用意されているため、Windows、Linux、Mac、さらにはローカル環境でも利用しやすい構成になっています。小型モデルでも高性能を実現今回のリリースで最も印象的なのは、小規模モデルの性能です。PFNによると、最小の0.8Bモデルでも日英翻訳や日本語多言語翻訳において、はるかに大規模な既存モデルを上回る結果を示しました。さらに2Bモデルでは英語多言語翻訳でも既存の翻訳特化LLMを超える性能を達成したとのことです。このため、高性能GPUサーバーだけでなく、ノートPCやMac、さらにはスマートフォン上でのオンデバイス翻訳といった新しい用途も現実味を帯びてきました。動画ではインターネット接続のない機内モード環境でも高速に翻訳を行うデモが紹介されています。性能を支えたのは「データ品質」への徹底的なこだわりPLaMo 3 Translateの開発では、モデル構造そのものよりも、学習データの品質向上に大きな力が注がれました。PFNはWeb上から多言語の文章を収集し、それをLLMで翻訳して教師データを構築しています。しかし単純に翻訳するのではなく、「トーナメント式データ合成」と呼ぶ独自手法を採用しました。これは複数の翻訳候補を生成し、それぞれの長所を統合しながら勝ち抜き形式で品質を高めていくアプローチです。優れた訳文だけを残して学習データに採用することで、翻訳品質を向上させています。さらに逆翻訳も活用しています。人間が書いた自然な文章を元に順方向と逆方向の学習データを構築することで、「自然な文章を読む能力」と「自然な文章を書く能力」の両方を鍛える設計になっています。完成しつつあるモデル自身を使ってデータ品質をさらに高める「反復的自己蒸留」という仕組みや、複数の翻訳候補の中から、より自然な翻訳と、そうでない翻訳を選び、好ましい表現を学習させる手法であるDPO(Direct Preference Optimization)も活用されています。8B以下のモデルには蒸留技術も利用され、31Bモデルを教師とし、小型モデルへ知識を移植することで性能が底上げされています。オフライン翻訳基盤として広がる活用PLaMo 3 Translateの公開後、コミュニティでは早くも実用ツールが続々と登場しています。ブラウザ翻訳拡張機能やデスクトップアプリが続々と公開されているほか、ゲーム分野では、海外ゲームの有志翻訳を支援するツールや、ゲーム画面上のテキストをリアルタイムで翻訳するオーバーレイアプリなどが開発されています。無償かつオフラインで利用できる翻訳基盤の登場によって、開発者から一般ユーザーまで、さまざまな分野での活用が広がり始めています。