タグ: security

AI活用

プロンプトインジェクションとは？AIアプリで実装する対策とテスト

プロンプトインジェクションの直接・間接攻撃と対策を開発者向けに解説。RAG・ツールの権限分離、入力検証、20件のテスト例を使い、拒否回答だけでなく実際の送信・保存結果まで確かめます。

AI活用

AIエージェントのHuman in the Loop設計｜承認・停止・再開を実装する

AIエージェントの承認・停止・再開を設計する開発者向けに、承認対象の固定、未知操作の拒否、実行前の再検証を解説。停止後に残る外部処理と結果不明の扱い、境界を確かめるテストケースも整理します。

AI活用

ComfyUIをLAN・外部公開するときの認証設計｜TLSとリバースプロキシ

ComfyUIをLAN外から使うときの防御設計を解説。--listenだけで公開しない理由、脅威モデル、リバースプロキシで入口を一つにする構成、Basic/OIDC/VPNの使い分け、入力制限、ログと更新の運用まで分かります。

AI活用

生成AIで個人情報を扱う前のチェックリスト｜入力・契約・保存・削除

顧客・従業員の情報を生成AIで扱う前に、利用目的、データフロー、契約、学習利用、保存・削除、マスキング、事故対応を確認する方法を解説します。

AI活用

社内AI利用ガイドラインの作り方｜許可範囲・禁止事項・承認フローの雛形

社内で生成AIを安全に使うためのガイドラインを、対象範囲、入力データ、禁止事項、承認フロー、事故対応、教育、見直しまで雛形付きで解説します。

AI活用

AI APIのコスト管理方法｜予算・ログ・モデル選択・上限設定

AI APIの料金が膨らむ原因を分解し、リクエスト単位のログ、月次予算、利用上限、モデル選択、異常検知まで実装例付きで解説します。