エンタープライズ テクノロジーは生成 AI によって自らを取り戻すことができるでしょうか? ヴィシャール・シッカ氏、AI を正しく行うことと、生成型 AI ヘビ油ベンダーの回避について語る

トレンドの AI スタートアップ Vianai Systems の創設者兼 CEO である Vishal Sikka 博士との以前のディスカッションでは、AI のジェットコースターの浮き沈みについて話し合いました。そして Sikka はたくさんのことを見てきました。

私たちは、AI の危険性を警告し、あの悪名高い一時停止を促す、広く誤解されている手紙にシッカ氏が署名した理由に迫りました。

もちろん、私たちは、幻覚や説明可能性を含む LLM の問題について話しました。幻覚に対するゼロ トレランス」 - Vishal Sikka 博士が、Vianai が AI アプリケーションを構築する方法と、AI の誇大宣伝サイクルの複雑な感情について話しました。次のような次世代 AI アプリケーションのコンテキスト。

しかし、それだけではありません。 生成 AI ベンダーを評価している顧客に対する Sikka からのアドバイスは何ですか? 結局のところ、生成 AI による企業の成功は、自分の時間に ChatGPT を試すこととはまったく異なる一連のフープ ジャンプです。

生成的 AI 企業の障害の私の部分的なリスト: リスクの管理、顧客データ/価格設定の問題、ブラックボックス/説明可能性、LLM の技術的制限の緩和、サードパーティ LLM の使用とデータプライバシーとオプトを尊重しながらの顧客トレーニングデータでのカスタマイズの難しさ-アウト、顧客価格への影響、ユースケースの長所/短所など。

これは障害の膨大なリストですが、完全なリストとは言えません。 それでも、私がシッカに言ったように、生成 AI は企業のテクノロジーを取り戻すチャンスだと考えています 。 消費者向けテクノロジーは、スマートフォン アプリ文化を展示品 A として、ここ数十年にわたって企業のイノベーションの最前線に立っているようです。しかし、生成 AI には、責任あるガードレールと、上で引用したすべての要素が非常に必要です。それこそが企業が得意とすることではないでしょうか。 ?

私はシッカにこう言いました。

私の考えでは、企業が AI に課していることは、セキュリティ、法的監視、倫理的監視、データの適切な使用など、まさに AI が今必要としているものです。 たとえば、ChatGPT ではなく Vianai が取り組んでいることの 1 つは、よりクリーンな結果をもたらすさまざまな種類のデータ ソースです。 これらのツールでは、少なくとも情報の出所に関する説明可能性の問題の一部にも対処していると思います。

シッカ氏も「これは企業にとって、信頼できる AI、責任ある AI への導きを示す機会です。」と同意します。 より優れた AI のもう 1 つの潜在的なコンポーネントはありますか? ある種の強化学習。 OpenAI も、ChatGPT に偏見や偏見の「ガードレール」を設けるために、これの強引なバージョンを実行しましたが、労働力調達に関する論争がなかったわけではありません。 しかし、理論的には、企業は反復モデル トレーニングを使用して、分野の専門家が望ましい結果を微調整できるようにすることができます。 Sikka が説明するように、これらのアプローチはユーザーの信頼を構築することもできます。

強化学習はそのための方法の 1 つです。 残りの部分は単なる会話です。 私のメンターは、「これを再生させてください」と頼むという素晴らしいトリックを使っていました。 そこで、複雑な質問をしたとします。 彼はよくこう言いました、「これを再生させてください。」 この質問をしたかったのですか？』 「それを修正してください」と言うかもしれません。 そして彼は質問に答えるでしょう。 もちろん、それは彼に考える時間を与えたので、ある種のトリックでもありました。

[Vianai では] ユーザーの意図がわからない場合にそのようにします。 したがって、結合や複雑な内部結合、あるいは複数のテーブルにまたがる複雑なものに関する質問をすると、「おい、これはこういうことを言いたかったのか?」と言って、その質問を再びあなたの前に戻します。 そしてユーザーは「はい、これが私が言いたかったことです」と言うか、それを修正します。 これは、ユーザーの意図を明確にするための非常に簡単な方法です。

同様に、テキストベースのデータであろうと、構造化された表形式のデータであろうと、回答を提供するときは、それをユーザーの前に提示して、「データの取得元はここです」と伝えます。 これが実行されたクエリであり、これが答えです。」 それをするのは簡単ではありません。 しかし、私たちはそれを行います。企業が目の前に提示した結果を信頼するために、それは企業にとって必要なことです。