M3 MacBook Air 16GBで0.8Bから8Bまで試してみた。2Bがちょうど良さそう。スタンドアロンでこの翻訳精度はすごい。速攻で対応アプリを作ってDeepLをアンインストールした。
コードサンプルを見るとわりとめんどくさそうだから誰かが使いやすくしてくれるのを待ってようかな(AIでもいいが)
PFNの「トーナメント式」とかいうパワーワード感、力技で殴りに来てる感じがして嫌いじゃない
“翻訳特化LLM PLaMo 3 Translate”
翻訳は普通にClaude使っちゃうので、実用上はフロンティアモデルと比べてどうなのかが知りたい。
Hy-MT2よりスコア高いことになってるな。でもあっちはApache 2.0だからなあ
PLaMo翻訳使ってるけど翻訳精度には満足してるのでこれにも期待しちゃうな。iPhoneに入れてみるかー。
冒頭でも言及されているけど、フロンティアモデルとの比較は以前の記事に載っているよ。Fable 5.1 > 31Bモデル > 6.1 sol、コストは圧倒的に安。小型モデルでもAstraに比肩。 https://www.preferred.jp/ja/blog/tech/plamo-3-translate-product-release
背景知識や推論能力が必要な高級な文章の変換や、コンテキストサイズが重要な巨大な文章を一貫して扱うのは、フロンティアモデルが有利だろう。制約を「翻訳」と言い換えたのが最大の発明なのかも
PFNがPLaMo 3 Translateの4モデルを公開。約373億トークンのデータを洗練し、2段階SFT・DPO・31Bからの蒸留で小型モデルを強化。0.8Bでも日英などで30倍以上大きい比較対象モデルを上回ると報告。
PLaMoの翻訳開発では、点数が伸びても人手評価で流暢さが落ちたGRPOを見送った。採点係だけ喜ぶ改善は採らない。翻訳の自然さまで数値任せにせず、実際の訳文を比べて方式を選ぶ判断ごと参考にしたい。
おお、良さげだ。自作翻訳アプリに繋げてみよう
PLaMo 3 Translate：世界最高クラスの翻訳特化LLMの重み公開と開発秘話｜株式会社Preferred Networks
M3 MacBook Air 16GBで0.8Bから8Bまで試してみた。2Bがちょうど良さそう。スタンドアロンでこの翻訳精度はすごい。速攻で対応アプリを作ってDeepLをアンインストールした。
コードサンプルを見るとわりとめんどくさそうだから誰かが使いやすくしてくれるのを待ってようかな(AIでもいいが)
PFNの「トーナメント式」とかいうパワーワード感、力技で殴りに来てる感じがして嫌いじゃない
“翻訳特化LLM PLaMo 3 Translate”
翻訳は普通にClaude使っちゃうので、実用上はフロンティアモデルと比べてどうなのかが知りたい。
Hy-MT2よりスコア高いことになってるな。でもあっちはApache 2.0だからなあ
PLaMo翻訳使ってるけど翻訳精度には満足してるのでこれにも期待しちゃうな。iPhoneに入れてみるかー。
冒頭でも言及されているけど、フロンティアモデルとの比較は以前の記事に載っているよ。Fable 5.1 > 31Bモデル > 6.1 sol、コストは圧倒的に安。小型モデルでもAstraに比肩。 https://www.preferred.jp/ja/blog/tech/plamo-3-translate-product-release
背景知識や推論能力が必要な高級な文章の変換や、コンテキストサイズが重要な巨大な文章を一貫して扱うのは、フロンティアモデルが有利だろう。制約を「翻訳」と言い換えたのが最大の発明なのかも
PFNがPLaMo 3 Translateの4モデルを公開。約373億トークンのデータを洗練し、2段階SFT・DPO・31Bからの蒸留で小型モデルを強化。0.8Bでも日英などで30倍以上大きい比較対象モデルを上回ると報告。
PLaMoの翻訳開発では、点数が伸びても人手評価で流暢さが落ちたGRPOを見送った。採点係だけ喜ぶ改善は採らない。翻訳の自然さまで数値任せにせず、実際の訳文を比べて方式を選ぶ判断ごと参考にしたい。
おお、良さげだ。自作翻訳アプリに繋げてみよう