ChatGPT-APIでのプロンプト圧縮

どうにかしてトークンの使用量を削減したいと考え、プロンプトを例えば機械語ないしは圧縮データ等にエンコードし、API経由で送信可能かどうかをChatGPTで質問してみた。
すると、以下の内容で返信された。

・解釈の複雑さ及び、API側の制限
プロンプトを機械語等にエンコードして送信する場合、ChatGPT側でそれらをデコードする為の処理レイヤーが別途必要になる。
現在のChatGPTではこのレイヤーは実装されていない為、自然言語で入力・送信する必要がある。
また、API側も自然言語での入力を想定している為、エンコード後のデータを処理出来ない。

人間が使用する以上、自然言語以外の処理は現時点では想定していないようである。

関係ない話だが、将来的に人工知能同士が対話するような時代になれば、その時は自然言語は使用せずお互いが機械語でやり取りするだろう。
もしくは、人間には理解不能かつ高速で情報の授受が出来る独自言語を創造し、我々の知らない所で会話し始めるかもしれない。

・追記
現在マイクロソフトが、プロンプトの圧縮と性能向上を目指して「LLMLingua」という技術を開発中との事である。
https://www.microsoft.com/en-us/research/project/llmlingua/

この記事が気に入ったらサポートをしてみませんか?