PLaMo 3 Translate 2B LiteRT-LM

Built with PLaMo

English

.litertlm conversions of PLaMo 3 Translate 2B that run in the browser with LiteRT-LM and WebGPU. Translation runs on the user's own GPU, so the text stays in the browser. This is an unofficial conversion, not provided or endorsed by Preferred Networks (PFN). For the model itself, see the original model card.

Demo: try these models in your browser at PLaMo Translate Demo.

File Size Weights Notes
plamo-3-translate-2b-int8.litertlm 2.92 GB int8 Default. Closest to the original. About 6 GiB of GPU memory.
plamo-3-translate-2b-int4.litertlm 1.75 GB int4 (embeddings int8) Smaller and faster. About 4 GiB of GPU memory. Wording changes in long texts.

GPU memory is for a context length of 2048 tokens, measured on one integrated GPU.

Requirements: a browser with WebGPU, and @litert-lm/core 0.19.0. The files load only with the GPU backend.

import {Backend, Engine, SamplerType} from '@litert-lm/core';

const contextLength = 2048;  // Input plus output, up to 32768
const engine = await Engine.create({
  model: '/models/plamo-3-translate-2b-int8.litertlm',
  backend: Backend.GPU,
  mainExecutorSettings: {maxNumTokens: contextLength},
});
// One conversation per translation. Options: target_lang (required), source_lang, form, context, glossary.
const conversation = await engine.createConversation({
  preface: {extra_context: {target_lang: 'ja', source_lang: 'en'}},
  sessionConfig: {
    maxOutputTokens: contextLength,
    samplerParams: {type: SamplerType.GREEDY, k: 1, p: 1, temperature: 1, seed: 1},
  },
});
for await (const chunk of conversation.sendMessageStreaming('Hello, world!')) {
  for (const item of chunk.content) if (item.type === 'text') console.log(item.text);
}
await conversation.delete();

The options and language codes are those of the original model. Converted from revision cf66d22fbe62 of the original.

日本語

PLaMo 3 Translate 2B を .litertlm に変換したものです。LiteRT-LM と WebGPU を使い、ブラウザの中で翻訳できます。翻訳は利用者の GPU で動くので、文章はブラウザの外に出ません。非公式の変換であり、株式会社 Preferred Networks (PFN) が提供または保証するものではありません。モデル自体については、元のモデルカードを参照してください。

デモ: PLaMo Translate Demo で、ブラウザから試せます。

ファイル 大きさ 重み 説明
plamo-3-translate-2b-int8.litertlm 2.92 GB int8 標準。元の実装にいちばん近い。GPU メモリは約 6 GiB。
plamo-3-translate-2b-int4.litertlm 1.75 GB int4 (埋め込みは int8) より小さく速い。GPU メモリは約 4 GiB。長文では言い回しが変わる。

GPU メモリは、コンテキスト長 2048 トークンのときの値で、内蔵 GPU 1 台で測りました。

必要なもの: WebGPU が使えるブラウザと、@litert-lm/core 0.19.0。読み込めるのは GPU バックエンドだけです。

コードは上の English の例と同じです。翻訳ごとに conversation を作り、オプション (target_lang は必須。ほかに source_lang、form、context、glossary) を extra_context で渡します。オプションと言語コードは、元のモデルと同じです。元のモデルのリビジョン cf66d22fbe62 から変換しました。

License / ライセンス

These files are derived from PLaMo 3 Translate 2B and are distributed under the PLaMo Community License (revised on November 9, 2026). Full text: English, Japanese. Using them means agreeing to that license. If you provide these files, or a service that uses them, to others, the license requires you to provide a copy of it and to state "Built with PLaMo". Commercial use requires registration in advance through the PLaMo Commercial Use Registration Form. This is a summary; the full text takes precedence.

これらのファイルは PLaMo 3 Translate 2B の派生物で、PLaMo コミュニティライセンス (2026 年 11 月 9 日改定) のもとで配布します。全文: 日本語、English。利用すると、このライセンスに同意したことになります。これらのファイルや、これらを使ったサービスを第三者に提供するときは、ライセンスのコピーを提供し、「Built with PLaMo」と明示する必要があります。商用利用には、PLaMo 商用利用登録フォームからの事前の登録が必要です。これは要約で、ライセンスの全文が優先します。

Downloads last month
-
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for OS-Software/plamo-3-translate-2b-litert-lm

Quantized
(9)
this model