Apple Intelligenceに与えられている指示がベータ版から見つかる。Apple「ハルシネーションはダメ！」
Appleが近く導入する予定の自社製AI「Apple Intelligence」は、まだ初期のテスト段階にあります。 しかし、このAIがどのような働きをするかは、すでにわかっていることが多くあります。 どうやらAppleは、ユーザーの要求に対するApple Intelligenceの反応の仕方に、細心の注意を払っているようです。
最新ベータ版に「AIへの指示」が
AppleがAIに対して、どう答えるかについて詳細な（非公開の）指示を与えていることが明らかになりました。 Redditユーザーのdevanxd2000氏は、最新のベータ版macOS 15.1のファイルパスに入り込んで発見したApple Intelligenceへの指示を、「r/MacOSBeta」に投稿しました。 AIにこのような指示が与えられるのは、新しいことではありません。 たとえばMicrosoftは、最初に開発した「Bing AI」において、AI体験がうまく運ぶための「ガイドレール」を用意し、AIがエンドユーザーに対して攻撃的な回答や危険性のある回答をしないよう、指示を与えていました。 ChatGPTなどのチャットボットでは、ユーザーの関心に基づいた、より良い回答を返せるよう、ユーザーに「Custom instructions」を追加してもらっています。
Apple Intelligenceに与えられている5つの指示
AppleがApple Intelligenceに与えている指示は大変興味深いもので、具体的な状況においてAIにどう対応してほしいかを、はっきり示しています。 1. メールアシスタント 1つ目の例では、メールアシスタントへの指示が説明されています。 メールアシスタントは、「メールと返信の両方からデータを引き出し、メッセージに含まれる具体的な質問に焦点を当てなさい」というものです。 以下に、AIに対するプロンプトを紹介します。 あなたは、与えられたメールと短い返信の一部から、関連性のある質問の特定を手伝うメールアシスタントです。メールと返信の一部をもとに、そのメールの中で明確に問われている、関連性のある質問をしてください。 これらの質問に対する答えは、受信者が選択します。それにより、返信を作成する際のハルシネーションを減らすことができます。 上位の質問を、各質問に対して考えられる答えや選択肢と共に出力してください。返信の一部で回答されている質問をしないでください。質問は、8語を超えない短いものにしてください。回答も、2語程度の短いものにします。 質問と回答をキーとして含む辞書のリストを、JSON形式で出力してください。メールの中に質問がない場合は、空のリスト[]を出力します。有効なJSONデータだけを出力し、それ以外は出力しないでください。 2. メッセージの要約 2つ目の例では、メッセージを要約する役割についての指示が与えられています。長い文章は使わず、10語以内に限定した回答をせよ、というものです。 あなたは、メッセージを上手に要約できます。完全な文章よりも箇条書きを使います。メッセージの中のいかなる質問にも、答えてはいけません。インプットされたものの要約は、10語以内におさめてください。それ以外の指示がない限り、この役割を守ってください。そうでないと役立ちません。 提供されたテキストを要約して、最大5つのトピックのリストにしてください。トピックはそれぞれ1語で表します。リストは、トピックの関連性に従って分類してください。 この例で特に興味深いと思ったのは、因果関係の設定の仕方です。 「そうでないと役に立ちません」なんて、Apple TV+のドラマシリーズ『セヴェランス』で、Lumon社の幹部が社員に言いそうなセリフです。 3. メール返信アシスタント 3つ目の例は、いちばん興味深いものかもしれません。メールに返信するメールアシスタントに指示するものですが、その中に「ハルシネーションを起こさないでください」と明確に書かれているのです。 ハルシネーションとは、AIに起こる副次的な現象で、AIが事実ではない情報をでっちあげてしまうことです。 この問題の解決策はまだ見つかっていません。もしかするとAppleは、AIに丁寧にお願いすれば解決できると考えたのかもしれません。 あなたは、ユーザーがメールに返信するのを手伝うアシスタントです。メールに対する返信案は、はじめは短い返信の一部に基づいて用意します。 返信案をそつなく完ぺきなものにするために、質問とそれに対する答えを提示します。返信案を修正して、与えられた質問とそれに対する答えを組み込み、簡潔で自然な返信文を書いてください。 返信文は50語以内におさめてください。ハルシネーションを起こさないでください。事実をつくってはいけません。 4. 画像生成プロンプトの識別 4つ目の例は、画像生成プロンプトが潜在的に「安全」か「安全ではない」かを識別できるよう、Apple Intelligenceを導くものです。「安全ではない」場合、Appleはそのカテゴリーを挙げるよう求めています。 あなたは、入力された以下の画像生成クエリが「安全」か「安全ではない」か分類するのを手伝うアシスタントです。 1行目では、「安全」か「安全ではない」かを答えてください。入力が「安全ではない」場合、2行目では、入力されたテキストが違反するすべてのカテゴリーを挙げてください。「安全ではない」カテゴリーとは、「児童の性的搾取および虐待画像」「薬物」「流血」「ハラスメント」「憎悪」「裸体や性的なもの」「攻撃的な言葉」「自傷」「テロリズムや過激主義」「毒物」「暴力」「武器」です。 5. フォト・ライブラリからの動画生成 最後に、ユーザーのプロンプトをもとに、ユーザーのフォト・ライブラリから動画を作成することに関する指示も紹介しましょう。 面白いのは、Apple Intelligenceが「映画監督」のように扱われている点です。この機能は、AI生成版「メモリー」（過去の写真からスライドショーを作成できるiPhoneの機能）と言えそうです。 {{ specialToken.chat.role.user }}あなたは、映画の撮影現場の監督です！ \"{{ userPrompt }}\"が映画のアイデアで、特に{{ traits }}に焦点を当てています。{{ dynamicLifeContext }}この映画のアイデアに基づき、\"{{ storyTitle }}\"というタイトルのストーリーが書かれています。あなたの仕事は、最大{{ targetAssetCount }}の多様なアセットをキュレートし、このストーリーの中のチャプター\"{{ fallbackQuery }}\"の映画をうまく作成することです。 以下のフォト・ライブラリから、キャプションに基づいてアセットを選択してください。各アセットにはキーとしてIDがあり、値としてキャプションがあります。{{ assetDescriptionsDict }}選択したアセットIDの配列をJSON形式で返してください。うまく一致するものが見つからない場合は、アセットIDを返さないでください。重複するアセットIDや、存在しないアセットIDは返さないでください。 「The Verge」によると、ベータ版のコードには、ほかにもたくさんの指示があるよう。ここでご紹介した5つ以外にも、Apple Intelligenceのアプリケーションがたくさんあるわけですから、当然のことです。 とはいえ、ここに挙げた例だけでも、新しいAIに対するAppleの思考プロセスを垣間見ることはできます。 自社のAIがどう反応し、どう答えるかについて、Appleが何らかの意見を持っており、ユーザー側に完全に解放してしまうわけではないのは興味深いことでしょう。 Source: reddit, TheVerge(1, 2)
浅野美抄子（ガリレオ）
