1週間のAI ニュースまとめ 6/12/2023

OpenAI GPTベストプラクティス、Deepmindのソートアルゴ、Bard Improvementなどなど。

過去1週間のAIニューストップ3

1.最適解は非人間的
ソートは、インターネット上で毎日使われている基本的なアルゴリズムの1つです。Netflixのような企業が、膨大なコンテンツライブラリの中から正しい映画を探し出し、あなたに提示する必要があることを思い浮かべてみてください。日々、より多くのコンテンツが生成されています。そのため、より新しく、より効率的なアルゴリズムが必要とされているのです。

このようなアルゴリズムの探索は、これまで人間の仕事でした。効率的で最適な解決策を考え出す人々。先週、GoogleのDeepMindは3項目ソートと5項目ソートの新しいアルゴリズムを思いつきました。

Deepmindの研究者は、効率的なアルゴリズムの探索をゲームにすることでこれを実現した。そして、Alphadevにこのゲームをプレイするように訓練したのです。このゲームをするとき、Alphadevは目に見えない戦略を思いついた。この「戦略」こそが、新しいソートアルゴリズムなのです。

この解決策は、新しいアプローチを発見したわけではないので、革命的なものではありません。この解決策は、現在のアプローチを最適化することで機能します。

このアルゴリズムは、C++ライブラリに追加されました。完全なAIソリューションがライブラリに追加されたのは初めてのことです。

これは、最適解を見つけるにはコンピュータが必要であることを示す重要な発見です。コンピューターは、人間が知覚できる範囲を超えることができるのですから。以前、ディープマインドのAlphaGoは、同様の方法でトップクラスの囲碁棋士イ・セドルを破ったことがあります。これまで見たこともないような手を思いついたのだ。

一方、コンピューターは教えられたことに制限されるかもしれない。ChatGPTを使って、この発見を再現できた人がいました。

2.GPTのベストプラクティス
GPT-4の品質が下がったと騒がれています。

そこで、より良い結果を得るための戦術と戦略を、Open AIから直接入手しました。

私はこの戦略や戦術に目を通しましたが、そのほとんどは、より良いインプットを提供することにあります。「プロンプトエンジニアリング "とでも言いましょうか。GPTの品質に関する質問の1週間後にこれが来ることを考えると、これは「私ではなく、あなたです」という雰囲気を醸し出しています。

提案のいくつかを見てみると、私は無意識のうちにほとんどの戦術を使用していることがわかります。私のプロンプトは、できるだけ多くの詳細を加えようとするため、常に5文より長くなっています。そして、GPT-4のおかげで、以前は実現できなかったことができるようになりました。

3.Bardの論理性・推理性の向上

一方、Bardは物足りなさを感じています。Googleは1つずつ機能を追加することで、レスポンスを改善しようとしています。

先週、Bardが論理と推論を良くすることが発表されました。これは「暗黙のコード実行」を使って実現されます。Bardに論理や推論の質問をすると、通常のLLM的な答え方はしません。ですから、幻覚を見やすい「次の単語は何でしょう」というようなことはもうありません。

その代わり、Bardはプロンプトが論理的な質問であることを認識するようになりました。そして、ボンネットの中でコードを書き、実行します。そして、実行されたコードの出力を受け取ることで、質問に応答します。

これは、OpenAIのGPTベストプラクティスにある「GPTに "考える "時間を与える」戦略の実装と考えることができます。Googleによると、これによってパフォーマンスが30％向上するそうです。

試してみて、私に教えてください。

AIニュースのハイライトと興味深い読み物10選
AppleはWWDCでジェネレーティブAI製品を披露しなかった。しかし、LLMの「次の単語は何か」というロジックをオートコレクトに導入しています。それは、こう要約できる：

ChatGPTは名前 - davidjdlを読むことができません。これはRedditのデータをトークン化したためという説があります。ラーニングリソースセクションに、トークン化に関するチュートリアルを追加しました。

ブラウザの拡張機能は、セキュリティの悪夢です。GPTとLLMの流行により、マルウェアの拡張機能がユーザーデータを盗む新たな手段を手に入れました。要約や "write for me "といった拡張機能には要注意です。

AIが生成した画像のほとんどは、ストックフォトに使われそうだ。しかし、この業界は滅びつつあるのだろうか？ここで、これまでのデータを見てみよう。著者の結論は、初期の指標では、AIのストック画像を見つけると、人が写っていないことが多いということです。つまり、AIセラーから「会議室で握手している笑顔のビジネスパーソン」は出てこない。これはMidJourney V5で変わるかもしれません。将来はまだ未知数です。

ChatGPTでより良いコーディングをするための6つのヒント。私はTrust, but verify mental modelをよく使っています。ChatGPTがPythonのコードの一部で何度もプロンプトを出したにもかかわらず、苦労しているのを見たことがあり、コードの一部を自分で書かなければならないこともありました。

GPT-5はすぐには来ません。

AIのスタートアップは、あまりにも簡単にコピーできてしまうかもしれません。そして、AIがより少ないリソースを必要とするようになり、100万ドル以上の価値を持つ1人企業が現れるかもしれない。

Googleが考えるAIの安全性確保。

A16zは、AIが世界を救うと言う。

AIの写真は偽情報に使われるかもしれない。EUの解決策は、偽情報と戦うためにAI画像にラベルを貼ることだ。

��‍��3 ラーニングリソース
GPTを使ってより良いソリューションを構築しようとするならば、トークナイザーを理解することは必須です：

https://simonwillison.net/2023/Jun/8/gpt-tokenizers/

https://matt-rickard.com/the-problem-with-tokenization-in-llms

FlowiseとHuggingFace LLMとLangchainの使用について

https://cobusgreyling.medium.com/how-to-use-huggingface-llms-with-langchain-flowise-2b2d0f639f03

リンク

https://www.nature.com/articles/s41586-023-06004-9