次回の更新記事:【論文著者監修・コメント】AIエージェントへの人間…(公開予定日:2026年07月27日)
AIDB Daily Papers

言語モデルで手続き型サウンドスケープを生成・操作するインタラクティブ楽器

原題: A Text-Steerable Instrument for Sketching Procedural Soundscapes via Language Models
著者: Prabal Gupta
公開日: 2026-07-01 | 分野: インタラクティブメディア 音楽 cs.CL cs.HC cs.SD eess.AS

※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。

ポイント

  • 自然言語の指示からリアルタイムで変化する環境音や音楽を生成し、パラメータ調整で演奏可能なインターフェースを開発した。
  • 従来の波形生成モデルとは異なり、人間が解釈可能な設定スキーマを用いることで、演奏者が音響を細かく制御できる点が新しい。
  • LLMの応答待ち時間でも音を途切れさせない生成アーキテクチャを実現し、持続的な音楽パフォーマンスを可能にした。

Abstract

We present a real-time musical interface that converts natural-language scene descriptions into evolving procedural soundscapes. A performer types a prompt such as "warm jazz cafe at midnight" and steers it through direct parameter adjustments - stepping brightness down, switching a rhythm style - each producing a predictable, audible shift without re-prompting. Where GPU-bound text-to-audio systems synthesize monolithic waveforms, our instrument generates human-readable configurations over a categorical schema, enabling fine-grained performer control; most valid combinations are designed to sound musically coherent. Three interchangeable backends - embedding retrieval for sub-second CPU-only use, hosted LLMs via API, and a fine-tuned 270M local model - all emit the same schema. A live generator architecture continuously emits audio while resolving new instructions in the background, crossfading seamlessly when ready; even when an LLM takes 5-12 seconds to respond, the audience hears uninterrupted sound - reframing text-to-music as an ongoing performable stream rather than a one-shot generation. We evaluate text-audio semantic alignment using LAION-CLAP on held-out prompts as a technical proxy, finding that retrieval-based configuration outperforms random valid configurations on this metric, while noting that LAION-CLAP also informed retrieval-map construction. We report performance observations, informal listener feedback, and release materials for the SDK, dataset artifacts, model, and audiovisual performance interface.

Paper AI Chat

この論文のPDF全文を対象にAIに質問できます。

質問の例:

AIチャット機能を利用するには、ログインまたは会員登録(無料)が必要です。

会員登録 / ログイン

関連するAIDB記事