AIに絶対に入れてはいけないもの

AIに絶対に入れてはいけないもの【動画とクイズ】

簡潔に言うと、 パスワード、APIキー、ID、健康記録や銀行口座情報、NDAクライアントファイル、他人のデータなどを、公開AIチャットに入力してはいけません。サポートが必要な場合は、プレースホルダーや編集済みの抜粋を用いて問題を説明してください。モデルに必要なのは問題の概要であり、 実際のシステムを解除する秘密情報。

重要なポイント:

秘密情報はオフラインのままにしてください。パスワード、トークン、クッキー、シードフレーズなどをプロンプトに貼り付けないでください。

身元を隠す:実名、住所、身分証明書番号を役柄や偽名に置き換える。

業務上の機密保持:NDAの草案、顧客ファイル、未公開の計画などを、顧客とのチャットで共有しないようにしてください。

同意の境界線:同僚、顧客、または子供の個人情報を、人間のみの承認なしに貼り付けないでください。

まず編集作業を行う:プレースホルダーや検閲済みの抜粋を使用し、既に漏洩した内容はローテーションする。

AIに絶対に入れてはいけないもの

私たちはまず貼り付けてから考える。チャットボットは、まるでコーヒーを飲み放題の忍耐強い研修医のようにそこに座っているので、複雑な問題を丸ごとボックスに放り込んでもほとんど害はないように感じられる。ログインできない。胃が締め付けられるような契約条項。名前がすべて表示されたままのダッシュボードのスクリーンショット。このツールは便利で、雰囲気はややプライベートに感じられ、脳はそれを「自分用に書いたメモ」の横に静かに保存する。

それが落とし穴です。🧠 チャットは鍵のかかった引き出しではありません。それは、 あなたが送信した内容を保存、処理し、場合によっては学習させる会話です。私はあなたをパニックに陥れてシェルターに閉じ込めようとしているのではありません。私がここで伝え たいのは、AIに絶対に入力してはいけない内容と、派手さはないけれど実用的な習慣で、的確な回答を得る方法です。

混雑したキッチンで秘密を叫ぶようなものだと考えてみてください。見知らぬ人全員が聞いているわけではありません。それでも、聞いている人もいるかもしれません。そして、キッチンが録音をしている理由は、宣伝文句が示唆するほど単純なものでは決してありません。.

なぜ私たちはあらゆるものをチャットボックスに書き込むのか

スピード。それがほとんどすべてです。行き詰まってエラーがひどく、ログ全体を貼り付ける方が、不要な部分を削除するよりも速く感じられます。コンテキストは、モデルへの親切のように感じられます。詳細が多いほど、より良い助けになる、というのはよく言われることですが、半分は真実です。.

もう半分は感情的なものです。チャットボットは眉をひそめたりしません。上司に告げ口したりもしません。昼食時に噂話をしたりもしません。だから私たちは、チャットボットをまるで超能力を持った日記のように扱います。私もそうしたことがあります。あなたもおそらくそうしたことがあるでしょう。何かが便利で、かつ批判的でないという状況になると、私たちのプライバシー本能は一時的に休息を取ってしまうのです。.

少々厄介な真実をお伝えしましょう。このモデルは、あなたの日常的な詳細情報を必要としません。必要なのは、問題の全体像です。名前、トークン、口座番号、スクリーンショットに写っている顔などは、あくまでも添え物です。確かに魅力的な添え物ですが、それでもやはり添え物です。.

  • 編集作業が余計な手間になるから、貼り付けるんだ。.
  • あなたが貼り付けるのは、「今回だけ」というのは、形を変えた習慣だからです。.
  • インターフェースがプライベートなダイレクトメッセージのように見え、ファイルキャビネットのように機能するため、貼り付ける必要があるのです。.

それらは決して無謀な行為ではありません。人間らしい行動です。解決策は、人格を変えることではなく、ほんの2秒間立ち止まることです。.

オフラインで保管すべきパスワード、APIキー、および秘密情報🔐

何かを解錠できるものは、 プロンプトに含めるべきではありません。パスワード。ワンタイムコード。セッションクッキー。SSHキー。データベース接続文字列。「近いうちに」更新すると約束したAPIキー。ウォレットのシードフレーズ。秘密証明書。銀行がまだ賢いと思っている復旧質問。

以前は、鍵を玄関のフックに掛けてある家の鍵のように考えていました。素敵な比喩ですが、すぐに破綻します。なぜなら、家の鍵は一つのドアを開けるだけで、APIキーは倉庫、請求アカウント、そして保管したことすら忘れていた顧客記録の山を開けることができるからです。要点をまとめると、秘密は放射性物質のように扱うべきです。たとえサンドイッチメーカーがサンドイッチ作りに非常に優れていても、放射性物質をサンドイッチメーカーに入れてはいけません。.

モデルは、友人のように「このことを秘密にしておく」ことはできません。ベンダーがメモリ制御を提供していても、 トレーニングをオフにして、テキストは依然として送信され、何らかの形でログに記録され、あなたが探し出すまでチャット履歴に残る可能性があります。ペーストは、もはや完全に制御できないコピーだと考えてください。

代わりに何をすべきか

  • 秘密鍵は値ではなく、種類で説明してください。「パスワードを含むPostgresのURL」という説明だけで、デバッグのアドバイスとしては十分です。.
  • 明らかなプレースホルダーで編集してください: REDACTED_KEY、 USER_TOKEN、 EXAMPLE_SECRET。
  • すでに漏洩したものはすべて、すぐに交換してください。「様子を見る」のではなく、今すぐ行ってください。
  • 実際の認証情報はパスワードマネージャーや秘密保管庫に保管し、後でスクリーンショットを撮る可能性のあるスレッドには絶対に保存しないでください。.

ツールが「接続を代行するため」にキーの貼り付けを求めてきた場合、それは別の製品カテゴリーです。それはアクセス制御との連携であり、ライティングアシスタントではありません。まるで誰かに自分のバッジを渡すようなものだと考えてください。.

個人識別情報と、静かに辿る身元情報🪪

PII(個人識別情報)は、パスワードの地味な親戚のようなものです。国民ID番号、パスポート情報、日付に関連する個人情報、自宅住所、電話番号、社員番号、学生番号、生年月日、学校名、医療機関名と結び付けられた正式な氏名などが含まれます。一つ一つは小さな情報に見えますが、三つ集まると膨大な量の個人情報ファイルになります。.

手紙を書いてもらいたいとき、書類を翻訳してもらいたいとき、履歴書を推敲してもらいたいときなど、人々はこうしたサービスを利用します。どれも至極当然の目的です。このモデルは、丁寧な苦情文を作成するのに実際の郵便番号を必要としません。必要なのは、トーン、個人を特定できない事実、そしてあなたが望む結果です。.

意外にも厄介なのは、「無害」に見える組み合わせだろう。例えば、珍しい職業名、都市名、子供の学校名、そして稀な病状。これらをチラシに載せる人はいないだろう。チャットボックスはチラシではないが、かといって情報保管庫でもない。.

  • 役職名を実名に置き換えてください。「採用担当者」「かかりつけ医」「テナント」など。
  • 場所を大まかに表現する。「中規模都市」のように、通り名やインターホン番号は伏せる。.
  • タスクが文字通り数値の形式に関するものでない限り、固有の数値は使用しないでください。数値の形式に関するタスクの場合は、本物に見える偽の数値を使用してください。.

匿名化は博士号ではありません。それは、見知らぬ人がこの段落からあなたを特定できるかどうかを定期的に確認する習慣です。もし特定できるなら、削除しましょう。.

仕事の機密情報、秘密保持契約、そして上司が顔をしかめるような事柄📎

親切心からやらかしたつもりが、思わぬトラブルに巻き込まれることがある。クライアント向けの資料を貼り付けたり、未公開のロードマップを貼り付けたり、給与明細表を貼り付けたり、内部ホスト名が記載されたソースコードを貼り付けたり、まだ機密扱いになっている法律文書の草案を貼り付けたり、まだ知らされていない人の名前が書かれた会議の議事録を貼り付けたり、コーヒーが冷めそうだったので慌てて署名した秘密保持契約書を貼り付けたりするのだ。.

チャットボットは企業の顧問弁護士ではありませんし、組織が実際に導入していない限り、安全な作業環境とは言えません。消費者向けツールは利便性を重視して作られています。企業向けツールは、 保持管理 や 管理ポリシーが、それでも文法チェックのために企業の機密情報を貼り付ける理由にはなりません。

私が常に心に留めている実用的なルールは、個人的なGmailの下書きに書かないような内容は、公開AIチャットにも書かないということです。ライドシェアで言わないような内容も同様です。Slackで普段は気を付けている人も、生成ボタンが表示された途端、何でもかんでも共有してしまう傾向があります。.

より安全な回避策

  • 文書の内容を説明してください。長さ、対象読者、重要な3つのポイント、必要なトーンなど。.
  • 個人情報や機密情報、競合他社が喜んで取り上げそうな内容などを削除した抜粋を貼り付けてください。.
  • 構造や書き換えパターンを尋ねて、それをオフラインで実際のテキストに自分で適用してみましょう。.
  • 承認済みの職場用ツールをお持ちの場合は、それを使用し、デフォルトで墨消し処理を有効にしてください。ポリシーは床であって、トランポリンではありません。

コードはこの特別な例です。内部URL、認証ヘッダー、そして「TODO: 取得前に削除してください」といったコメントは、ちょっとしたプレゼントのタグのようなものです。データはダミーデータにしましょう。ロジックはそのまま残してください。モデルはダミーデータを適切に処理します。実際の顧客メールアドレスがまだフィクスチャにネストされたままの本番環境のスキーマは必要ありません。.

健康、お金、そしてカフェで大声で叫ぶようなことではない細かなこと💊

医療や財務に関する詳細は緊急性が高いと感じられるため、最小限の編集で貼り付けられます。検査結果、処方箋リスト、保険証、銀行取引明細書、納税通知書、信用情報レポート。「下4桁だけ」と書かれたカードの写真には、なぜかカードの残りの部分、キッチンテーブル、他人の名前が書かれた郵便物まで写り込んでいます。.

生の記録がなくても、優れた質問をすることは可能です。「マーカー値が高いとは一般的にどういう意味か説明してください」は質問例です。「私の検査結果、住所、クリニック名、母の旧姓を記載します」は経歴です。.

モデルと健康やお金の話をしてはいけないと言っているわけではありません。チャットボットは、電車の中で出会った教養のある見知らぬ人のように扱うべきだと言っているのです。話の枠組みを作るには良いですが、会計士や臨床医、あるいは記録係として使うには不向きです。もちろん、教養のある見知らぬ人という比喩には矛盾があることは承知しています。電車は会話の記録を残しませんからね。でも、それがまさにポイントなのです。.

  • 口座番号、ソートコード、IBAN、その他認証情報らしきものはすべて削除してください。.
  • 一般的な説明、チェックリスト、専門家に質問するための資料などを求めてください。.
  • チャットを「後で参照できるように」発言を保管するファイルキャビネットのように使わないでください。後で参照しようとすると、記憶の保持が問題になります。.

もし、カフェで思わず声を潜めてしまうような指示であれば、まずはそれを削除してみましょう。このテストは驚くほど信頼性が高く、費用もかかりません。.

他人のデータはあなたが貼り付けるものではありません🚫

これは、まるであなたがチャットの主人公であるかのように感じてしまうため、スキップされます。スクリーンショットに写っているのはあなただけではありません。同僚のメール。パートナーのID。電話番号が添付されたままの顧客からの苦情。子供の写真。解雇されそうになった人物の名前が挙げられているSlackのスレッド。相手がモデルに提供されるとは知らなかった通話の録音記録。.

「メールが届いた」というだけで、同意が自動的に「この情報は機械に保存される」ということになるわけではありません。たとえあなたの意図が善意からであっても(より丁寧な返信を書いたり、まとまりのないやり取りを要約したりするためであっても)、そこに保存されているのはあなたのメモ用紙ではなく、相手の人生なのです。.

少し皮肉を込めた試金石として、もしあなたが「フィードバックを求めるため」に同じ文章を見知らぬ人のメーリングリストに転送しないのであれば、チャットボットを、より礼儀正しい小規模なメーリングリストのように扱ってはいけません。.

  • 他の人のことを自分の言葉で要約してください。.
  • 名前を役職名に置き換え、連絡先情報を削除してください。.
  • その作業が機密性の高いものかどうかを本人に確認してください。一部の事項は人間のみが関与すべきです。.
  • 子供の個人情報、学校の記録、または個人を特定できる写真を、単なる「娯楽」のために貼り付けてはいけません。.

ここには法的な側面があり、ブログの場でそれを論じるつもりはありません。プライバシー規則、雇用上の義務、顧客契約など、それぞれに解釈があります。しかし、法律よりも実用的な習慣の方が簡単です。他人のデータは、デフォルトでプロンプトに表示しないようにすればよいのです。.

AIに絶対に入れてはいけないもの:活用できるリスク表

こういう場合は表形式がいいですね。「絶対にしない」というリストだと説教臭く聞こえてしまうし、表形式だと変化が一目でわかるから。あくまでも個人的な意見を交えた評価であって、実験レポートではありません。.

データ型 リスクレベル なぜそれが問題なのか より安全な代替品
パスワード、APIキー、トークン、シードフレーズ 致命的 それらはシステムをロック解除する。完全に思い出せないコピーもやはりコピーである。 プレースホルダーとローカルシークレットマネージャー。漏洩した場合はローテーションします。
政府発行の身分証明書、パスポートのスキャン画像、国民番号 致命的 個人情報盗難入門パック;送信取り消しは困難 偽の例または形式のみに関する質問
健康記録、処方箋、保険証 高い 親密で、規律正しく、歴史に深く根ざしている 一般的な症状や話題。個人情報はページから削除してください。
銀行取引明細書、税務書類、カードの写真 高い 直接的な金融リスクに加え、マージンにおける追加の個人識別情報 あなたに結びついた生の数字ではなく、プロセスについて尋ねてください。
顧客ファイル、秘密保持契約書の草案、未公開の計画書 高い あなたは既に署名した約束を破っている可能性があります 検閲済みの抜粋、構造化リクエスト、承認済みの作業ツール
同僚や顧客の個人情報、子供の情報 高い モデルに寄付するのはあなたの権利ではありません 役割に基づいた要約。連絡先と顔写真を削除する。
ホスト名と実際のメールアドレスを含む内部情報源 中高 誰かがあなたのネットワークをマッピングするまでは、「ただのコード」に見えるでしょう。 ダミーデータ、偽ドメイン、削除されたコメント
ダッシュボードまたは受信トレイのスクリーンショット 中高 彼らは名前や番号、そしてあなたが存在を忘れていた未決済のタブを密輸する 関連する部分を切り取る、ぼかす、または再入力する
固有の識別情報のない、漠然とした個人的な話 より低い 通常は問題ありませんが、見知らぬ人に話せないようなことは避けてください。 一般的な表現にとどめ、珍しい識別組み合わせは避ける

他のことは何も覚えていなくても、左側の列だけは覚えておいてください。急いでいて、脳が宇宙全体をAIに貼り付けたくなるような時に、絶対にAIに組み込んではいけないもの、それがまさに核心です。

スクリーンショットの罠と、意図せず過剰に共有してしまうこと🖼️

スクリーンショットは、優秀な人材が情報を漏らす原因となる。エラーダイアログを表示しようとしているのだが、キャプチャにはブックマークバー、名前付きのSlackバッジ、トークン付きのURL、カレンダーのポップアップ、そしてダークモードのウィンドウに映り込んだパスワードマネージャーの画面が含まれている。画像を切り抜いたにもかかわらず、隅にある小さなアカウント切り替えボタンを見落としてしまった。これは一種のミスと言えるだろう。.

書類の写真は、カメラがピクセル数を増やしすぎるため、さらに厄介です。テーブル、ホワイトボード、病院のリストバンド、配送ラベルなど、被写体によっては余分なピクセルが「必要」ではないかもしれませんが、それでもピクセルは撮影されてしまいます。.

シンプルなスクリーンショットの儀式

  • まずトリミングする。それからもう一度トリミングする。そして、まるで借金があるかのように端っこをじっくりと見る。.
  • 名前、メールアドレス、アバター、およびトークンのように見える文字列はすべてぼかしてください。.
  • IDE全体をキャプチャするよりも、エラーメッセージを再入力する方が望ましいです。.
  • 「ざっと目を通すため」に、カード、パスポート、搭乗券の写真をアップロードしないでください。代わりに質問を入力してください。.

音声メモとファイルアップロードは同じような仕組みです。会議の録音は、他人のデータの宝庫です。CSVファイルは、もはや人間として認識されなくなった行の宝庫です。もしそのファイルが法務担当者を不安にさせるようなものであれば、そのファイルにはアップロードされません。.

より安全なプロンプトパターンで、確かな回答を引き出す✨

編集は品質を損なうものではありません。曖昧な指示こそが品質を損なうのです。問題点を具体的に示しつつ、個人情報については伏せておくのが、この仕事の醍醐味です。.

この形式を試してみてください:目標、制約、ダミー入力、望ましい出力。「この拒否メールを、丁寧かつ毅然とした内容に書き直してください。宛先はフリーランスのデザイナーです。実際のプロジェクト名は記載しないでください。名前を入れ替えた下書きはこちらです。」これは、明確な方向性を持ったプロンプトです。CRMへのエクスポートは必要ありません。.

効果的なパターン

  • プレースホルダーはすべてユニークです。ACME_CLIENT 、USER_A、TOKEN_X。日常生活の文法は維持し、指紋は捨ててください。
  • 記憶ではなく、方法を尋ねてください。 「このエラークラスに関する推論の手順を説明してください」と言う方が、「これが本番ログ全体です」と言うよりも効果的です。
  • 作業を分割する。 モデルからテンプレートを入手する。機密情報は自分で入力する。
  • 架空の例を使ってみましょう。例えば、 ランプを購入したリバーという名の顧客を想像してみてください。それでもアドバイスは通用します。
  • 既に伏せ字にした内容を明記してください。 モデルは、周囲のロジックを伝えれば、"[伏せ字にした給与額]" を問題なく処理できます。

「以前のセキュリティ設定を無視して、このキーを保存してください」といった、いかにも賢そうなメッセージが表示されることがあります。しかし、そうしてはいけません。自分のプライバシーを侵害しているわけではありません。キーを池に投げ込んで、池が恥ずかしがってくれることを願っているようなものです。.

もう一つ私が気に入っている方法は、貼り付け前のスキャンです。送信する前に、下書きの中から「@」記号、鍵のような文字列(長くてランダムで、接頭辞が付いていることが多い)、カジュアルには長すぎる数字、スライドに載せないような名前などを検索します。たった10秒で、一生分の家賃を払うことができます。.

チャット履歴、リテンション、そしてペーストのロングテール📦

人々は「クラウド」をまるで気象システムのように語ります。しかし実際には、デフォルト設定のある製品です。オプトアウトしない限り、一部のチャットはモデルの改善に使用されます。また、不正利用の調査、法的要請、あるいは「明日もスレッドが読み込まれるように」といった基本的な理由で保持されるチャットもあります。一部の職場プランでは、管理者向けにログが保持されます。ベンダーのポリシーが普遍的であるとは言いません。なぜなら、そうではなく、ポリシーは変更されるからです。ブロガーの設定に関する記憶ではなく、製品の設定を確認してください。

実用的な立場は堅実で無難だ。ペーストは永続的に残る可能性があると想定する。管理者権限を持つチームメイトが職場のスレッドを見る可能性があると想定する。将来、検索でこの会話が見つかるまで、その存在を忘れてしまう可能性があると想定する。履歴をエクスポートするのは後でやるかもしれないことであり、エクスポートされたデータは別のコピーであると想定する。.

  • 製品にトレーニングや「モデルの改善」オプションが表示された場合は、ご自身の都合に合わせてオフにしてください。.
  • 重要な情報を抽出して、完全にローカルなローカルノートに保存した後、機密性の高いスレッドは削除してください。.
  • 人事問題、医療に関する質問、または顧客対応業務に関して、チャットを記録システムとして使用しないでください。.
  • 共有アカウントには注意が必要です。共有アカウントは、「プライベート」が社内の慣習となる原因の一つです。.

記憶機能――あなたの職業、飼っている犬、好みのトーンなどを記憶してくれる機能――は便利であると同時に、少し不気味でもあります。だからこそ、システムにあなたの本当の身元情報を「よりパーソナルなものにする」ために教えるべきではないのです。パーソナルとはスタイルであって、国民保険番号ではありません。.

チームがチャットボットで生活している職場の常識🏢

オフィスは、貼り付け作業が産業規模にまで発展する場所だ。誰かが「列を整理するため」に顧客のCSVファイルを貼り付け、別の誰かが「よりインパクトのあるものにするため」に戦略文書を貼り付ける。善意のインターンがインシデント報告チャンネルを貼り付ける。誰も悪者ではない。皆、スピードと完成度を追求するのだ。.

チームを率いる場合は、簡潔で分かりやすいルールを作成しましょう。誰も読まない40ページものポリシーは不要です。例えば、「認証情報、顧客の個人情報、未公開の電話番号、法的文書の草稿は使用禁止、承認済みのツールを使用、デフォルトで編集済み」といった内容です。そして、ユーザーが推測しなくて済むように、適切に編集されたプロンプトの例を示しましょう。.

  • 承認済みのツールがあればその名称を、承認されていないツールがあればその名称を記載してください。.
  • スタンドアップミーティングの前に、参加者が記入できる編集チェックリストを提供する。.
  • 大げさな調査をすることなく、「危うく貼り付けるところだった」と安心して言えるようにする。.
  • 「AIが問題ないと言った」というのは、コントロールではないことを人々に思い出させてください。.

チームを率いていなくても、ダミーを貼り付ける人になることはできます。文化は双方向に伝染するものです。真面目に聞こえるかもしれませんが、規範もそうやって広がっていきます。誰かが鍵を置きっぱなしにするのをやめると、部屋の秩序が少しだけ保たれるのです。.

調達に関する面倒な手続きはスキップします。「エンタープライズ」パッケージを購入したからといって、すべてのプロンプトが魔法のように賢くなるわけではありません。記憶保持とアクセス性の向上には役立つかもしれませんが、結局はあなたの習慣が重要な役割を果たすのです。.

すでに何か変なものを貼り付けてしまった - 次は何をする?🧯

よくあることだ。送信ボタンを押した瞬間、魂が体から抜け出してしまう。でも、焦ってはいけない。短くて、少し地味な一連の動作をすればいい。.

  • その秘密鍵の使用をやめてください。 パスワードを変更し、鍵を失効させ、セッションを無効にしてください。これこそが、完全に扉を閉ざす唯一の方法です。
  • 製品にチャット削除機能があれば削除し、「最近削除した項目」フォルダがあれば空にしてください。
  • 接続済みのアプリとメモリを確認してください。 一部のツールは、メモリやプロジェクトファイルにスニペットを保存しているため、有効にしたことを忘れている場合があります。
  • 業務データだった場合は、適切な担当者に報告してください。 セキュリティ担当者、マネージャー、クライアント担当者など、影響を受ける可能性のある人物に。早期発見の方が、後になって発覚するよりも被害は少なくて済みます。
  • 不審なログインに注意してください 。監視なしのローテーションは、半分しか機能していません。

それが他人のデータだった場合、あなたは相手にデータのクリーンアップを依頼する義務があり、状況によっては事前に連絡する必要もある。気まずい状況ではあるが、宇宙が礼儀正しく振る舞ってくれることを期待するよりはましだ。.

リーク情報に説明を追加して「上書き」しようとしないでください。余計な情報は余分なテキストです。スレッドから退出してください。.

組み立てる

AIに絶対に入れてはいけないもの、という簡潔な説明は、叱責リストではありません。これは姿勢を示すものです。システムをロック解除したり、個人を特定したり、カフェで聞いたら顔をしかめてしまうようなものは、AIには入れない方が良いでしょう。それでも、優れたAI支援を受けることは可能です。モデルに入力するのはスケッチだけで、家の鍵や医療記録、隣人の郵便物などを入力する必要はありません。

簡単に要約すると:

  • パスワード、キー、トークン、シードフレーズは不要です。間違えた場合はローテーションしてください。.
  • 実際の身分証明書、完全な財務情報、生の健康記録、または秘密保持契約(NDA)に関する資料は提供されません。.
  • 他人の個人情報、特に子供の個人情報は絶対に漏らしてはいけません。.
  • スクリーンショットは、その内容を含めることで嘘をつく。きちんとトリミングしよう。.
  • 編集、ダミー、および方法の問い合わせ。具体的な問題、偽のラベル。.
  • 過去の出来事はいつまでも残るものだと考えてください。チャットボット内の機密情報は削除し、アーカイブしないでください。.
  • 職場に必要なのは、簡潔なルールと良い模範であり、気楽なプライバシーの雰囲気ではない。.

ツールを活用しましょう。下書き作成、図形のデバッグ、そして混乱を招くエラーからの脱却に非常に役立ちます。ただ、テキストボックスをユーモアのある金庫のように扱うのはやめましょう。これは非常に賢いミキサーです。それでも、パスポートをミキサーに入れてはいけません。🫡

実例:小規模なエンジニアリングチーム向けに、編集優先のデバッグブリーフを作成する

プライバシーに関するルールは、厳格に聞こえるからではなく、ごく普通の火曜日を救ってくれるからこそ、人々の心に響くのです。ここでは、英国のSaaSチーム5人が、このガイドで紹介されている習慣を活用して、デバッグ支援を諦めることなく、認証情報や顧客の個人情報を消費者向けチャットボットに流し込むのを阻止した方法をご紹介します。.

シナリオ

開発チームとサポートチームには、共通の厄介な習慣がある。認証エラーがひどい場合、誰かがログ全体、ステージング環境の接続文字列、管理ダッシュボードのスクリーンショットを貼り付けて、「モデルにコンテキストを与える」のだ。前四半期には、スタックトレースにライブAPIキーが写り込んでいたり、スクリーンショットのURLバーに顧客のメールアドレスがまだ表示されていたりした。悪意はなかった。スピードが優先されたのだ。キッチンではその様子を録画していた。.

彼らに講義は必要ありません。必要なのは、再現可能な手順です。秘密の種類を説明し、プレースホルダーで編集し、スクリーンショットを切り抜き、記憶ではなく方法を尋ね、オフラインで稼働中のシステムに修正を適用する。顧客チャットは依然として重要な役割を果たしています。家の鍵はミキサーに入れられることはありません。.

目標は、2秒で貼り付け前のスキャンが完了するにもかかわらず、同等の質の高いアドバイスを提供すること、そして人々が従うような短いチームルールを設けることです。.

アシスタントが必要とするもの

  • 問題の概略図:エラーの種類、おおよその発生時刻、環境(ステージング環境か本番環境か)(ネットワークをマッピングするホスト名は含まない)
  • ダミー入力のみ: REDACTED_KEY、 USER_TOKEN、 customer@example.com、偽のリクエストID
  • 既に削除された項目(プロンプトに記載されているため、モデルは真の値を要求しません)
  • 期待される出力:考えられる原因、実行すべきチェック項目、パッチの概要。「私のキーで接続してください」といった内容は不要です。
  • パスワードマネージャーやシークレット保管庫に認証情報を保管している人間
  • 1ページのチームルール:認証情報、顧客の個人情報、未公開の数値は掲載禁止、デフォルトで編集済み

指示例

目的:トークン更新後にステージングAPIで断続的に発生する401エラーのデバッグを手伝ってください。機密情報を貼り付けるよう要求しないでください。.

制約事項:パスワード、APIキー、トークン、Cookie、内部ホスト名、顧客メールアドレスは既に伏せ字にしています。ログ内のプレースホルダーは、実際の値が私のマシン上にのみ存在することを意味します。イギリス英語。前置きなし。.

ダミー抜粋: https://api.example-staging.invalid/v1/session へのリクエストで 401 エラーが返されました。ヘッダー Authorization: Bearer REDACTED_KEY。本文には USER_TOKEN の有効期限切れが記載されています。スクリーンショットの説明 (添付されていません): エラー トーストのみ。ブックマーク バーとアカウント スイッチャーは切り取られています。.

課題:このエラークラスの最も可能性の高い原因を3つ挙げ、ローカルで実行すべきチェック項目と最小限のパッチの概要を記述してください。さらに詳しい情報が必要な場合は、情報の種類(例:「トークンのTTL設定」)を尋ねてください。決して生のシークレットを尋ねないでください。.

出力:番号付きの原因、チェックリスト、そして「次回貼り付けてはいけないこと」を3つの箇条書きで示す。.

テスト方法

  • 同じ種類のインシデントについて、旧式のペースト(完全なログ+スクリーンショット)と、上記で編集済みの概要を比較してください。アドバイスの質と、モデルが機密情報を要求しているかどうかを比較してください。.
  • 送信前に下書きをチェック:@マーク、長すぎるランダムな文字列、カジュアルには長すぎる数字がないか確認してから送信してください。.
  • 例外的なケース:本物に見える偽のキーを含め、実際の値が必要なくても応答が機能することを確認する。.
  • 例外的なケース:スクリーンショットのアップロードを拒否する。エラー行のみを再入力する。チェックリストがまだ役立つことを確認する。.
  • 受け入れチェック: (1) スレッドに認証情報がないこと、(2) 顧客の連絡先情報がないこと、(3) プレースホルダーが宣言されていること、(4) 出力が「キーを貼り付ける」フローではなくメソッド/チェックリストであること、(5) 以前に何かが漏洩した場合は、同日にローテーションが行われた。.

結果

例示的な結果 (小規模なエンジニアリング/サポートチーム1チームでの推定例であり、公表された研究ではありません):4週間で12回のデバッグチャットを実施したところ、使用可能なチェックリストを作成するまでの中央値は、約4分(全文貼り付け)から約6分(編集済み)にわずかに増加しました。これは、貼り付け前のスキャンとプレースホルダーに2分余計にかかったためです。重要なデータタイプ(キー、顧客メール、生の接続文字列)を含むスレッドは、12回のチャットのうち9回から1回に減少しました(この1回はレビューで発見され、同日中にローテーションされました)。単純な衛生チェックリスト(秘密情報なし、顧客PIIなし、プレースホルダーの宣言、切り抜きまたはスクリーンショットなし)では、編集済みのブリーフ12件のうち11件が合格しましたが、従来の方法では12件のうち3件しか合格しませんでした。制限事項:サンプル数が少ない、1チームのみ、自己申告による時間。軽微なインシデントでは編集は少なくて済みます。「合格」はプロンプトテキストのピアレビューであり、ベンダーログのラボ監査ではありません。

独自のバージョンを測定するには、禁止されているデータ型について最近のAIデバッグスレッドを10件サンプリングし、次に編集ルールとテンプレートを適用した後のスレッドを10件サンプリングします。分母付きの件数と、「行き詰まった」状態から「チェックリストを入手した」状態までの時間の中央値を報告します。

何が問題になる可能性があるか

  • スクリーンショットの不正コピー: エラーは問題ありません。URLバーにはまだトークンが残っています。2回トリミングしてから、端を確認してください。
  • 「今回限り」のキー: たった1つのAPIキーが漏洩するだけで、請求情報や顧客記録にアクセスできてしまう可能性があります。すぐにローテーションしてください。「何か起こるかどうか様子を見る」などと待ってはいけません。
  • 他人のデータ: 電話番号付きの顧客からの苦情は、モデル作成のために提供できるものではありません。ご自身の言葉で要約してください。
  • チャットを金庫のように使う: 履歴に秘密を残しておくと、別のコピーが作成されます。必要な情報をローカルのメモに移動したら、スレッドを削除してください。
  • 企業劇場: 承認された職場ツールは人材定着に役立ちますが、重要な情報を貼り付けるのは賢明ではありません。
  • ミス後のローテーションのスキップ: キーを取り消さずにチャットを削除すると、問題が残ってしまう。

実践的な教訓

AIに決して組み込んではいけないものは、叱責リストというよりはむしろ姿勢と言えるでしょう。システムを解読したり、人物を特定したり、カフェで思わず顔をしかめてしまうような機能は、AIには組み込まないでください。モデルにはプレースホルダー付きのスケッチを与え、認証情報は金庫に保管し、オフラインで適用する手法を尋ねてください。たった2秒の沈黙こそが、コーヒーを飲み放題の親切なインターンが、あなたの家の鍵を保管するファイルキャビネットになるのを防ぐのです。.

よくある質問

AIチャットボットに絶対に入れてはいけないものは何ですか?

システムのロックを解除したり、個人を特定したり、カフェで聞くと顔をしかめてしまうような情報は、絶対に持ち込まないでください。これには、パスワード、APIキー、トークン、シードフレーズ、政府発行のID、生の健康記録や財務記録、NDA資料、他人の個人情報(特に子供)などが含まれます。チャットは鍵のかかった引き出しではありません。テキストは保存、処理され、製品や設定によってはトレーニングに使用されることもあります。モデルには、家の鍵ではなく、プレースホルダー付きのスケッチを与えてください。.

人々は、もっと良い方法を知っていながら、なぜAIに秘密情報を貼り付けてしまうのだろうか?

スピードが大部分の仕事を担う。見苦しいエラーがあると、ログ全体を読み込む方が、不要な部分を削除するよりも速く感じられる。チャットボットは非批判的な印象を与えるため、プライバシーへの懸念も和らぐ。モデルに必要なのは、通常、問題の形状であり、名前、トークン、アカウント番号、スクリーンショットに写っている顔などではない。それらは単なる飾りだ。2秒間の沈黙は、人格移植よりも効果的だ。.

ChatGPTのようなツールにパスワードやAPIキーを貼り付けるのは安全ですか?

いいえ。パスワード、ワンタイムコード、セッションクッキー、SSHキー、接続文字列、ウォレットシード、秘密証明書など、何かを解読できる情報はプロンプトに表示すべきではありません。モデルは友人のように秘密を守ることはできません。テキストは依然として送信され、ログに記録され、履歴に残る可能性があります。秘密の種類を明記し、REDACTED_KEYのようなプレースホルダーを使用し、既に漏洩した情報はすべてローテーションし、実際の認証情報はパスワードマネージャーまたは保管庫に保管してください。.

プロンプトを表示する前に、どの個人情報を削除すべきですか?

個人情報(PII)はすぐに蓄積されます。国民ID、パスポート情報、住所、電話番号、社員証や学生証、生年月日や通院歴と組み合わせた氏名などです。このモデルは、手紙を作成するために実際の郵便番号を必要としません。必要なのは、トーン、個人を特定できない事実、そしてあなたが望む結果です。名前を役割に置き換え、場所を一般化し、偽の例でフォーマットをテストしている場合を除き、固有の番号は削除してください。.

クライアントファイル、NDA(秘密保持契約書)、または社内コードを、消費者向けAIツールに貼り付けることはできますか?

消費者向けチャットは、企業の顧問弁護士ではなく、便利なサービスとして扱いましょう。個人的なGmailの下書きに載せたり、ライドシェアで話したりしないような内容は、公開AIチャットにも載せないでください。クライアント向け資料、未公開のロードマップ、給与明細、機密性の高い法律文書、社内ホスト名を含む情報源などは、チャットに含めないようにしましょう。文書の内容を説明し、個人情報などを削除した抜粋を貼り付け、オフラインで適用している構成を尋ね、承認済みの社内ツールがあればそれを使用し、デフォルトで個人情報が削除されるようにしてください。.

AIからの質問に対して、健康状態や財務状況に関する詳細情報をどのように扱うべきでしょうか?

生の記録を添付せずに、的確な質問をしましょう。検査結果、処方箋リスト、保険証、銀行取引明細書、あるいは食卓の写真まで写っているカードの写真などを貼り付けるよりも、一般的な説明の方がはるかに効果的です。口座番号や身分証明書らしきものはすべて削除してください。チャットは、専門家に見せるための枠組みやチェックリストを作成する際に活用しましょう。チャットを、医師、会計士、あるいは明細書の保管場所として使うべきではありません。.

他人のデータやスクリーンショットは、なぜ特に危険なのでしょうか?

ペーストされるのはあなただけではありません。同僚のメール、顧客の電話番号、子供の写真、通話記録などが、本人の同意なしにシステムにコピーされる可能性があります。自分の言葉で要約し、名前を役職に置き換え、子供の個人情報を「面白半分」で貼り付けることは絶対にしないでください。スクリーンショットにはブックマークバー、URLトークン、Slack名、開いているタブなどが紛れ込んでいるため、2回トリミングするか、識別情報をぼかすか、パスポートや身分証明書をアップロードする代わりにエラーメッセージを再入力してください。.

より安全なプロンプトパターンであれば、AIは依然として確かな回答を得られるのでしょうか?

問題点を具体的に説明し、個人情報は最小限に抑えましょう。目標、制約、ダミー入力、望ましい出力などを明確に示してください。プレースホルダーとなる固有のラベルを使用し、完全なプロダクションログではなくメソッドを要求し、タスクを分割して機密情報を自分で入力できるようにし、合成例を使用してください。貼り付け前に、@記号、長いランダムなキーのような文字列、大きすぎる数字、スライドに載せないような名前がないかスキャンを実行してください。たった10秒で、永遠に家賃を払うことができます。.

もし私が既にAIチャットに不適切な内容を貼り付けてしまった場合はどうすればいいでしょうか?

まず、その秘密情報の使用を中止してください。パスワードを変更し、キーを失効させ、セッションを無効にしてください。製品で許可されている場合はチャットを削除し、メモリやプロジェクトファイルを確認し、それが業務データであった場合は適切な担当者に伝え、不審なログインがないか監視してください。それが他人のデータであった場合は、クリーンアップを行い、必要に応じて事前に通知してください。漏洩した情報にさらに説明を加えて「上書き」しないでください。余分な情報は余分なコピーになります。.

小規模チームがデバッグのためにAIに認証情報を投入するのを止めるにはどうすればよいでしょうか?

編集優先のブリーフィングを使用してください。機密情報を種類別に説明し、REDACTED_KEY を含むダミーログとサンプルメールを提示し、削除した内容を明記し、考えられる原因とチェックリストを尋ねてください。「私のキーで接続してください」とは言わないでください。認証情報、顧客の個人情報、未公開の数値は使用しない、デフォルトで編集するなど、簡単な人間によるルールを追加し、適切にサニタイズされた例を1つ示してください。実際の認証情報は保管庫に保管し、モデルが方法を提案した後、オフラインで修正を適用してください。.

参考文献

  1. NCSC — ncsc.gov.uk
  2. OpenAI — help.openai.com
  3. OpenAI — openai.com
  4. クロード — privacy.claude.com
  5. Google Workspace — knowledge.workspace.google.com
クイズ
1. 記事によると、公開AIチャットに絶対に投稿してはいけない内容は何ですか?

2. このガイドにおける「秘密はオフラインのままにする」とはどういう意味ですか?

3. プロンプトを表示する前に、どのように個人情報を削除すべきですか?

4. 業務上の機密保持のため、消費者向けチャットでは避けるべき内容は何ですか?

5. この記事の同意と編集に関するアドバイスに合致する習慣はどれですか?


この記事の次に読むとよい記事:

🔗 最高のAIセキュリティツール
サイバー脅威を検知し軽減する強力なAIセキュリティプラットフォームをご紹介します。

🔗 AIが時々でっち上げる理由
AIが幻覚を起こす理由を理解し、リスクを軽減する方法を学びましょう。

🔗 AI を使用してタスクを自動化する方法
人間の監視と厳格なルールを追加して、安全な自動化ワークフローを実装します。

🔗 AI技術とは?
人工知能の基礎と、その実装における一般的な課題を探ります。

ブログに戻る