AI推論基盤エンジニア（シニア／LLM／音声モデル）

AI推論基盤エンジニア（シニア／LLM／音声モデル）

仕事概要

\\【この求人を一言でいうと】\\
音声AIおよびLLMの推論フレームワークを独立して設計・実装し、スループットとGPUコストを最適化する「AI推論基盤エンジニア（シニア）」のポジションです。なお、GPUクラスタの保守運用やSRE業務、RL学習基盤の構築は主業務ではありません。
チーム内の公用語は英語（日本語不問）で、想定年収は1,000万〜2,000万円（応相談）。勤務地は原則として、半蔵門オフィス（ハイブリッド前提）です。ただし、海外居住者や遠方の方からのご応募、フルリモート・ビザ取得サポート等についても柔軟に相談に応じます。

\\■こんな経歴の方に向いています\\

• LLM推論基盤（vLLM／SGLangなど）の構築・チューニング経験があるMLOps／ML Platformエンジニアの方
• 音声認識・音声合成モデルの研究開発から、推論基盤・システム側へ軸足を移したい方
• 大規模GPU上での推論ジョブのスループット・コスト最適化に携わってきた方

\\■役割：複数モデル（LLM／音声）に対応する高効率な推論フレームワークの設計・実装\\

Recho（レコー）では、複数の音声モデルおよび大規模言語モデル（LLM）を対象に、学習、評価、データ生成、バッチ推論（大量データの一括推論）を効率的に実行するためのAI推論基盤を構築しています。本ポジションの中心的なミッションは、複数の音声モデルおよびLLMに対応できる高効率な推論フレームワークを独立して設計・実装することです。

単純なモデルのAPI化や既存フレームワークの設定作業ではありません。モデルごとの構造、入出力、シーケンス長、前後処理、GPU特性を理解したうえで、モデル実行、バッチング、データ処理、スケジューリングを適切に分離・統合し、再利用可能な推論アーキテクチャを構築していただきます。

LLM領域でも、vLLM・SGLangなどの既存推論エンジンを活用し、モデル適応、推論パラメータ、バッチング、Prefill／Decode、リクエスト優先度などを調整します。音声とLLMの両面から、推論のスループットとGPUコストを最適化することが本ポジションの核です。

\\【このポジションで「やらないこと」】\\

• オンラインサービスのSLA管理、オンコール、障害復旧、インフラ保守を主目的とするポジションではありません
• GPUクラスタそのものの保守運用、一般的なSRE／DevOps業務は主業務ではありません（GPUクラスタの運用保守は別チームが担当します）
• CUDA Kernelや推論エンジンのフルスクラッチ開発は主業務ではありません
• RL（強化学習）学習基盤そのものの構築は、別ポジション「RL基盤エンジニア」が担当します（本ポジションは推論側を中心に連携します）

\\■お任せしたい主な業務\\
*\1. 音声モデル向け共通推論フレームワークの設計・実装\*

• 音声認識（ASR）・音声合成（TTS）・音声対話（Speech-to-Speech）・音声生成など、複数種類の音声モデルに対応する共通推論アーキテクチャの設計
• 共通モジュールとモデル固有モジュールの責務分離、新規モデルを追加するためのAdapter／Pluginインターフェースの設計
• モデル開発チームが利用する推論API・SDK・実行ツールの開発

*\2. 大規模音声データの高効率バッチ推論・Pipeline最適化\*

• 可変長音声に対するDynamic Batching・Bucketing、複数GPU／ノードによるデータ並列推論の設計
• 前処理・推論・後処理・ストレージI/Oを重ね合わせる非同期実行Pipelineの構築
• End-to-Endの処理時間とコストを基準としたボトルネックの計測・改善

*\3. LLM推論の適応・最適化\*

• vLLM・SGLangなど成熟した推論エンジンを活用したLLM推論環境の構築（独自エンジンのフルスクラッチ開発は主業務ではありません）
• Tensor／Pipeline Parallel、Continuous Batching、KV Cache／Prefix Cacheなどの調整
• Prefill／Decodeの特性やタスク優先度を考慮したスケジューリング設計

*\4. GPUリソースの利用設計（推論ワークロード視点）\*

• バッチ推論・評価を対象としたGPU割り当てとキャパシティ設計
• Kubernetes・Slurm・RayなどによるGPU推論ジョブの実行制御
• モデル・タスク単位でのGPU使用量と推論コストの可視化・改善

※より詳細な業務内容については、カジュアル面談や面接の際にお話しさせていただきます。

\\■このポジションの魅力\\
*\1. 「音声モデルの推論」という、まだ定石のない領域を切り拓ける\*
可変長音声・Codec・Vocoder・Speech-to-Speech・マルチモーダルなど、音声特有の推論には最適化の定石がまだありません。モデルの特性を理解して再利用可能な推論アーキテクチャをゼロから設計でき、後続モデル・全チームの土台になります。

*\2. 音声とLLM、両面の推論を一気通貫で最適化できる\*
音声モデルとLLMの双方を対象に、フレームワーク設計からバッチ推論・スケジューリングまで一貫して担えます。部分最適ではなく、推論全体のスループットとGPUコストで勝負できる希少なスコープです。

*\3. 自社の中核技術として、競争力やコスト最適化といった経営指標に直結\*
推論効率が生成音声あたりのGPUコストや応答速度を左右し、大手企業が本番運用するプロダクトの競争力そのものを決めます。保守ではなく、事業の中核技術によって価値を生み出せます。

\\■利用サービス・技術スタック一覧\\

• 言語・実装：Python ／ PyTorch
• LLM推論：vLLM ／ SGLang ／ TensorRT-LLM ／ Triton Inference Server
• 音声モデル：ASR ／ TTS ／ Speech-to-Speech ／ Audio Codec ／ Vocoder
• リソース管理・ジョブ実行：Kubernetes ／ Slurm ／ Ray
• 低レベル最適化（歓迎）：C++ ／ CUDA ／ Triton ／ NCCL

\\■プロダクトの優位性について\\
人間と区別がつかないレベルの自然な対話を実現する「Recho AI Voice Platform」の開発と、大手企業への「Voice AI Agent」の導入・運用支援を行っています。
最大の強みは、高品質なAI Agentを効率よく構築・改善できるプロダクト基盤にあります。業界の暗黙知を吸収し、ユーザーからのフィードバックデータをもとに、継続改善のサイクルを圧倒的な速度で回せる仕組みです。この技術により、金融・メーカー・行政などの実業務において複雑で大規模なコールセンターのAI化が急速に拡大しており、人間のオペレーターへの引き継ぎゼロ（完結率100%）を達成したプロジェクト実績もあります。

\\■面接・選考プロセス\\
カジュアル面談 ⇒ ケース課題・一次面接 ⇒ トライアル業務委託* ⇒ 最終面接 ⇒ オファー面談
*トライアル業務委託は、1日〜連続2日間オフィスにお越しいただき、実際にオフィスで業務に取り組んでいただく機会です（有償）。メンバーと協働し、カルチャーマッチと業務理解を確認し合う期間です。
\※場合によってリファレンスチェックを依頼させていただくことがございます\
\※スケジュールや副業規定で業務委託が難しい場合には、ご相談くださいませ\

\\■Rechoについて\\
Rechoは、カスタマーサポート領域の効率化を牽引する「AI Agent」の基盤モデル開発から、顧客への実装・プロジェクトデリバリーまでを同一組織内で一気通貫で行うテクノロジー企業です。

現在は、フルスクラッチで自社開発した「音声AI」技術を最大の強みとし、業界の長年の課題であった品質とコストのトレードオフを解消するソリューションをエンタープライズ向けに提供しています 。シリーズAで約7億円の資金調達を完了し、SBI新生銀行やKDDIといった大手企業のシビアな本番環境への社会実装を急進させているフェーズです。

Rechoについて詳しく知りたい方に向けて、会社やプロダクトに関する公開情報をまとめたページをご用意しました。このページでは、弊社の事業内容やプロダクトの詳細、所属メンバーについてご覧いただけます。

\\■参考情報\\

• コーポレートサイト
• チームメンバーのインタビューnote
• Company deck
• 事例：KDDI、アルティウスリンクと協業
• 導入事例：SBI新生銀行様

※2分程度の音声デモもぜひお聞きください※

必須スキル

\\【この求人を一言でいうと】\\
音声AIおよびLLMの推論フレームワークを独立して設計・実装し、スループットとGPUコストを最適化する「AI推論基盤エンジニア（シニア）」のポジションです。なお、GPUクラスタの保守運用やSRE業務、RL学習基盤の構築は主業務ではありません。
チーム内の公用語は英語（日本語不問）で、想定年収は1,000万〜2,000万円（応相談）。勤務地は原則として、半蔵門オフィス（ハイブリッド前提）です。ただし、海外居住者や遠方の方からのご応募、フルリモート・ビザ取得サポート等についても柔軟に相談に応じます。

\\■こんな経歴の方に向いています\\

• LLM推論基盤（vLLM／SGLangなど）の構築・チューニング経験があるMLOps／ML Platformエンジニアの方
• 音声認識・音声合成モデルの研究開発から、推論基盤・システム側へ軸足を移したい方
• 大規模GPU上での推論ジョブのスループット・コスト最適化に携わってきた方

\\■役割：複数モデル（LLM／音声）に対応する高効率な推論フレームワークの設計・実装\\

Recho（レコー）では、複数の音声モデルおよび大規模言語モデル（LLM）を対象に、学習、評価、データ生成、バッチ推論（大量データの一括推論）を効率的に実行するためのAI推論基盤を構築しています。本ポジションの中心的なミッションは、複数の音声モデルおよびLLMに対応できる高効率な推論フレームワークを独立して設計・実装することです。

単純なモデルのAPI化や既存フレームワークの設定作業ではありません。モデルごとの構造、入出力、シーケンス長、前後処理、GPU特性を理解したうえで、モデル実行、バッチング、データ処理、スケジューリングを適切に分離・統合し、再利用可能な推論アーキテクチャを構築していただきます。

LLM領域でも、vLLM・SGLangなどの既存推論エンジンを活用し、モデル適応、推論パラメータ、バッチング、Prefill／Decode、リクエスト優先度などを調整します。音声とLLMの両面から、推論のスループットとGPUコストを最適化することが本ポジションの核です。

\\【このポジションで「やらないこと」】\\

• オンラインサービスのSLA管理、オンコール、障害復旧、インフラ保守を主目的とするポジションではありません
• GPUクラスタそのものの保守運用、一般的なSRE／DevOps業務は主業務ではありません（GPUクラスタの運用保守は別チームが担当します）
• CUDA Kernelや推論エンジンのフルスクラッチ開発は主業務ではありません
• RL（強化学習）学習基盤そのものの構築は、別ポジション「RL基盤エンジニア」が担当します（本ポジションは推論側を中心に連携します）

\\■お任せしたい主な業務\\
*\1. 音声モデル向け共通推論フレームワークの設計・実装\*

• 音声認識（ASR）・音声合成（TTS）・音声対話（Speech-to-Speech）・音声生成など、複数種類の音声モデルに対応する共通推論アーキテクチャの設計
• 共通モジュールとモデル固有モジュールの責務分離、新規モデルを追加するためのAdapter／Pluginインターフェースの設計
• モデル開発チームが利用する推論API・SDK・実行ツールの開発

*\2. 大規模音声データの高効率バッチ推論・Pipeline最適化\*

• 可変長音声に対するDynamic Batching・Bucketing、複数GPU／ノードによるデータ並列推論の設計
• 前処理・推論・後処理・ストレージI/Oを重ね合わせる非同期実行Pipelineの構築
• End-to-Endの処理時間とコストを基準としたボトルネックの計測・改善

*\3. LLM推論の適応・最適化\*

• vLLM・SGLangなど成熟した推論エンジンを活用したLLM推論環境の構築（独自エンジンのフルスクラッチ開発は主業務ではありません）
• Tensor／Pipeline Parallel、Continuous Batching、KV Cache／Prefix Cacheなどの調整
• Prefill／Decodeの特性やタスク優先度を考慮したスケジューリング設計

*\4. GPUリソースの利用設計（推論ワークロード視点）\*

• バッチ推論・評価を対象としたGPU割り当てとキャパシティ設計
• Kubernetes・Slurm・RayなどによるGPU推論ジョブの実行制御
• モデル・タスク単位でのGPU使用量と推論コストの可視化・改善

※より詳細な業務内容については、カジュアル面談や面接の際にお話しさせていただきます。

\\■このポジションの魅力\\
*\1. 「音声モデルの推論」という、まだ定石のない領域を切り拓ける\*
可変長音声・Codec・Vocoder・Speech-to-Speech・マルチモーダルなど、音声特有の推論には最適化の定石がまだありません。モデルの特性を理解して再利用可能な推論アーキテクチャをゼロから設計でき、後続モデル・全チームの土台になります。

*\2. 音声とLLM、両面の推論を一気通貫で最適化できる\*
音声モデルとLLMの双方を対象に、フレームワーク設計からバッチ推論・スケジューリングまで一貫して担えます。部分最適ではなく、推論全体のスループットとGPUコストで勝負できる希少なスコープです。

*\3. 自社の中核技術として、競争力やコスト最適化といった経営指標に直結\*
推論効率が生成音声あたりのGPUコストや応答速度を左右し、大手企業が本番運用するプロダクトの競争力そのものを決めます。保守ではなく、事業の中核技術によって価値を生み出せます。

\\■利用サービス・技術スタック一覧\\

• 言語・実装：Python ／ PyTorch
• LLM推論：vLLM ／ SGLang ／ TensorRT-LLM ／ Triton Inference Server
• 音声モデル：ASR ／ TTS ／ Speech-to-Speech ／ Audio Codec ／ Vocoder
• リソース管理・ジョブ実行：Kubernetes ／ Slurm ／ Ray
• 低レベル最適化（歓迎）：C++ ／ CUDA ／ Triton ／ NCCL

\\■プロダクトの優位性について\\
人間と区別がつかないレベルの自然な対話を実現する「Recho AI Voice Platform」の開発と、大手企業への「Voice AI Agent」の導入・運用支援を行っています。
最大の強みは、高品質なAI Agentを効率よく構築・改善できるプロダクト基盤にあります。業界の暗黙知を吸収し、ユーザーからのフィードバックデータをもとに、継続改善のサイクルを圧倒的な速度で回せる仕組みです。この技術により、金融・メーカー・行政などの実業務において複雑で大規模なコールセンターのAI化が急速に拡大しており、人間のオペレーターへの引き継ぎゼロ（完結率100%）を達成したプロジェクト実績もあります。

\\■面接・選考プロセス\\
カジュアル面談 ⇒ ケース課題・一次面接 ⇒ トライアル業務委託* ⇒ 最終面接 ⇒ オファー面談
*トライアル業務委託は、1日〜連続2日間オフィスにお越しいただき、実際にオフィスで業務に取り組んでいただく機会です（有償）。メンバーと協働し、カルチャーマッチと業務理解を確認し合う期間です。
\※場合によってリファレンスチェックを依頼させていただくことがございます\
\※スケジュールや副業規定で業務委託が難しい場合には、ご相談くださいませ\

\\■Rechoについて\\
Rechoは、カスタマーサポート領域の効率化を牽引する「AI Agent」の基盤モデル開発から、顧客への実装・プロジェクトデリバリーまでを同一組織内で一気通貫で行うテクノロジー企業です。

現在は、フルスクラッチで自社開発した「音声AI」技術を最大の強みとし、業界の長年の課題であった品質とコストのトレードオフを解消するソリューションをエンタープライズ向けに提供しています 。シリーズAで約7億円の資金調達を完了し、SBI新生銀行やKDDIといった大手企業のシビアな本番環境への社会実装を急進させているフェーズです。

Rechoについて詳しく知りたい方に向けて、会社やプロダクトに関する公開情報をまとめたページをご用意しました。このページでは、弊社の事業内容やプロダクトの詳細、所属メンバーについてご覧いただけます。

\\■参考情報\\

• コーポレートサイト
• チームメンバーのインタビューnote
• Company deck
• 事例：KDDI、アルティウスリンクと協業
• 導入事例：SBI新生銀行様

※2分程度の音声デモもぜひお聞きください※

歓迎スキル

*\先端モデル・音声応用\*

• 音声生成モデル（Diffusion / Flow Matching）や Audio Codec などの推論経験
• ASR・TTS・Speech-to-Speech など複数モデルにまたがる実務経験
• RL（強化学習）Rollout 推論環境の構築・最適化への関心・経験

*\パフォーマンス・低レイヤ最適化\*

• 可変長音声に対するDynamic Batching や複数 GPU / ノードによる分散・並列推論の設計経験
• C++ / CUDA / Triton / NCCL への基礎理解と、Profiler を用いたボトルネック特定能力
• GPU コストおよび計算予算の管理・最適化経験

*\基盤設計・技術リード\*

• 社内 AI Framework / 推論ライブラリ / モデル SDK の設計経験
• vLLM / SGLang / PyTorch / Ray などへの OSS Contribution 経験
• 技術ロードマップ・設計標準・コードレビュー方針の策定経験

*\語学・コミュニケーション\*

• 日本語または中国語でのコミュニケーション能力

※本チームの公用語は英語ですが、日本語（会社の公用語）や中国語（中国語話者の社員も多数在籍）でのコミュニケーションが可能な方は、社内連携においてより歓迎します。

求める人物像

\\■求める人物像\\

• *\ハンズオン志向：\* 高度なアーキテクチャ設計だけでなく、自らも最前線で手を動かし（Hands-on）、実装までこだわりを持って担える方
• *\データ・ファクト・ドリブン：\* 性能やコストの課題に対して、感覚ではなくProfilerやBenchmark等の「データ」に基づいて論理的に判断し、全体最適化ができる方
• *\実用主義（Pragmatic）：\* 車輪の再発明をせず、既存のOSSやフレームワークを適切に見極めて活用し、自社に必要な部分だけを鋭く拡張できる方
• *\プラットフォーム思考：\* モデル開発チームなど、他チームが使いやすい基盤（道具・ライブラリ）を作り、組織全体の生産性を高めることを楽しめる方（Team-Firstな価値観）

\\■大切にしている4つの価値観に共感いただける方\\
Rechoの提供価値を最速で最大化するために、チームで大切にしているバリューをご紹介します。

*\Exceed Expectations\*
顧客と仲間の期待を、スピードと品質の両立で超え続ける。

*\Team-First\*
一人ひとりがプロとしての責任を果たし、個人ではなくチームの成果を最大化する。

*\Continuous Feedback\*
成果のために本気で向き合い、率直に伝え合う。言いにくいことこそ、敬意と配慮をもって誠実に伝え続ける。

*\Earn Trust\*
信頼は、すべての協力と挑戦の土台である。道徳的に判断し、公私混同しない。信頼を築くのには時間がかかり、失うのは一瞬。

応募概要

給与

前職の給与水準、スキルレベル等を総合して報酬を決定いたします。

• 年俸制：1,000万円 ～ 2,000万円
• 昇給： あり（年1回を基本とし、本人の貢献、会社の業績によって決定）
• SO（ストックオプション）制度あり

勤務地

半蔵門WeWork（東京都千代田区麹町2-3-2 半蔵門PREX North）
出社推奨（一部リモートワーク可能）

雇用形態

正社員

勤務体系

\\■勤務時間\\

• 勤務時間（専門業務型裁量労働制）
• みなし労働時間：1日9時間
• 始業・終業時刻：労働者の決定に委ねる（業務上の必要に応じて10:00～19:00を基本勤務時間帯として運用）

\\■職務内容・就業場所について\\

• 業務内容：（雇入れ直後）音声AI推論基盤開発業務

（変更の範囲）会社の定める業務

• 就業場所：（雇入れ直後）半蔵門WeWork（一部リモート相談可能）

（変更の範囲）会社の定める場所

\\■休日休暇\\
土日、祝日、年末年始（12月29日〜1月3日）、特別休暇、有給休暇（初年度10日）

試用期間

3ヶ月間（条件変更なし）

福利厚生

\\■保険・制度\\

• 各種社会保険完備
• 通勤手当有（月額25,000円まで）

\\■オフィス環境\\

• WeWork入居（半蔵門駅徒歩2分／占有フロア・集中ブース・会議室完備）
• 館内ドリンク無料（コーヒー・ソフトドリンクに加え、アルコールも利用可）
• 高品質オフィスチェア完備
• MacBook Air + 外部ディスプレイ貸与

\\■生産性向上サポート\\
AIを届ける会社だからこそ、働き方もAIネイティブに。

• AI活用支援制度
• エンジニア職：Claude Code・Codex 最上位プラン支給
• ビジネス・PM職：チームでコンテキストを共有できる組織プラン支給
• Amazon Business アカウント利用可（業務上必要な書籍・備品購入）

\\■コミュニケーション施策\\
各プロジェクトのミーティングや、Slackなどの日常的なやり取りに加え、全社の進捗を全員で共有・議論する場や、懇親の機会を定期的に設けています。

• 1. Monday Kickoff：毎週月曜日に業務進捗から、ちょっとした出来事まで共有できる場
• 2. 全体定例：毎月月初の金曜日に各部門の前月の成果共有をする会。終業後には軽食を囲んで、懇親を図ります。
• 3. All Hands：半期に1度開催する、全社方針や中長期ビジョンを共有する場です。組織全体の一体感を高めます。

\\■受動喫煙防止措置\\
屋内原則禁煙（屋外に喫煙所あり）