【ノーコードソリューションズ｜AI Weekly vol.19】先週の重要AIニュース2本＋テックブログ解説（AIが作った架空の判例で、本が回収・絶版に ほか2本）

AI WEEKLY by NOCODE SOLUTIONS

Vol.19　先週の重要AIニュース2本＋テックブログ解説

発行日：2026/10/17 ／ 配信日：2026/10/19

今号のラインナップ

10月10日、出版社の高文研社が、9月に刊行した島袋純・琉球大学教授の著書『無責任の体系と沖縄戦』について、著者による経緯の説明と謝罪を公開しました。147〜149ページで紹介していた国際裁判の判例3件が、どれも実在しなかったためです。本は9月18日に絶版と回収が決まり、24日に告知されていました。

島袋氏の説明によると、米スタンフォード大学図書館の国際犯罪裁判の記録データベースのURLを生成AIに読み込ませ、沖縄で日本軍が住民を殺害した事例を挙げるよう指示したそうです。出てきた英文の判例をそのデータベースから引いたものだと思い込み、確かめないまま授業の資料に使ったうえ、その後も精査せずに著書に載せたといいます。今後について、島袋氏はほかにAIを使った箇所も調べ直し、間違いが見つかれば改めて公表するとしています。高文研社も、AIを使った原稿に限らず、校正と校閲を徹底する方針です。

URLを渡したのだから、AIはそのページを読んで答えているはずだ、と考えるのは自然です。ただ、答えが渡したページから取ったものか、AIが作った文なのかは、答えの見た目だけでは分かりません。そのうえで見ておきたいのは、架空の判例が授業の資料からそのまま本に引き継がれ、刊行から1週間ほどで絶版が決まった点です。社内の資料なら、間違いに気づいた時点で直せば済みます。しかし本のように外に出てしまうと、回収や謝罪まで必要になります。会社でいえば、提案書や報告書、Webサイトの記事がこれに当たります。

提案書や営業資料に、AIで調べた法令や判例、統計の数字、他社の事例を入れることは、どの会社にもあると思います。こうした間違いを防ぐために、新しい道具を入れる必要はありません。AIが示した出典を、人が元のページを開いて確かめるだけです。とはいえ、すべてを確かめるのは手間がかかります。そこで、社外に出す文書のうち、出典や数字がついている部分に絞って確かめると、無理なく続けられます。

10月12日、英国政府は、AIによる新しい危険から国を守る取り組みを発表しました。ナラヤンAI担当相は発表の中で、英国を「AIを使った攻撃が世界で最も難しい国の1つにしたい」と述べています。リスクを十分に制御できないなら、AIを開発する企業はそのシステムを公開すべきではない、とも語りました。

発表の柱の1つは、AIの重大な事故とニアミスをどう見つけて報告し、教訓をすばやく次に生かすかの検討です。あわせて、病院や電力・水道のような欠かせないサービスを守るため、サイバーセキュリティとレジリエンス（復旧力）に関する法案の強化も検討します。この中には、自律的に動くAIが人の監督を逃れる「制御の喪失」のリスクも含まれます。また、AIエージェント（AIが自分で手順を決めてツールを操作する仕組み）が関わる大きな事故は、ほかの事故より速く、広く進みうるとして、その対応の方法を英国の国家サイバーセキュリティセンターとAIセキュリティ研究所が詰めます。政府のシステムでは、最先端のAIで弱点を探す2つの試行によって1,000件を超える弱点の候補を見つけて直しており、この試行も延長します。

報告の仕組みと法案の強化は「検討する」段階で、報告を義務にするのか、どの業種まで対象にするのかは決まっていません。詳細は議員や専門家、実際に制度を担う事業者と詰めていくとしており、予算の額も書かれていません。

日本の会社に、すぐに英国の制度がかかるわけではありません。それでも、事故の一歩手前を集めるという考え方は、工場の安全活動で続けてきたヒヤリハットの報告と同じです。ただしAIの場合は、ニアミスが目に見えにくいのが厄介です。01の架空の判例も、授業の資料の段階で止まらず、そのまま本に載りました。AIが間違えた、頼んでいないことをした、入れてはいけない情報を入れかけた。こうした小さな出来事は、報告する場所がなければ、担当者の手元で直されて消えます。集める仕組みに、費用はほとんどかかりません。いま使っているヒヤリハットの報告用紙や共有の記録表に「AIのミス」の欄を足し、「何に使ったか、何が起きたか、どう気づいたか」を3行で書いてもらうだけです。たとえば「取引先への案内文の下書き。AIが入れた住所が旧住所だった。名刺と見比べて気づいた」くらいの短さで構いません。

書き込むときは、顧客の氏名や取引の金額のような中身は貼らず、何が起きたかだけを書いてもらいます。報告の記録が、新しい漏洩の入口になっては困るからです。もう1つ気をつけたいのは、報告した人を責めないことです。責められると分かれば、誰も書かなくなります。月に一度、集まった書き込みを読み返すと、AIがよく間違える業務と、確かめる人を置くべき場所が見えてきます。

弊社からのお知らせ｜新しいお役立ち資料

新しいお役立ち資料「AIネイティブな基幹システムへの刷新」を公開しました

01と02で見てきたのは、AIの出力を人が確かめないまま使ってしまう場面でした。AIを基幹システムにつないで在庫や単価まで扱うなら、どの操作で人が確かめるかを、入れ替えの段階で決めておく必要があります。10月13日に公開したこの資料では、基幹システムの入れ替えを7つの工程に分け、工程ごとに決めることと残す文書、AIをつなぐときに確かめることをまとめました。

3 / 5基幹システムでよくある3つの問題

AIネイティブな基幹システムへの刷新｜PDF・17ページ

基幹システムでよく起きる3つの問題と、それぞれを解決する工程、替える範囲と作り方で分けた4つのタイプ、要件定義から運用までの7工程で残す文書の記入例をまとめています。後半では、刷新した基幹システムにClaudeやChatGPTをつなぐ構成と、在庫や単価を書き換える操作を人が確かめることなど、AIを入れるときに工程ごとに確かめることも載せています。ふだん基幹システムの開発のご相談でお伝えしている中身を、そのまま資料にしました。無料でお読みいただけます。

10月16日、弊社のテックブログで「【11月改定】Claude利用ポリシーは何が変わったのか？実際に検証して徹底解説!」を公開しました。Anthropic社は10月8日に、同社のAIであるClaudeの利用ポリシーの改定を発表し、新しいポリシーは11月12日から適用されます。対象は、Claude.aiやAPI（プログラムからClaudeを呼び出す窓口）の利用者だけでなく、Claudeを組み込んだサービスの利用者にまで及びます。なお、ChatGPTなど他社のAIには、それぞれの会社の規約がかかります。記事では改定後の条文を読み、条文の言葉ではなく記事での整理として、AIに任せる範囲を3本の線に分けました。

1本目は、社内の下書き・要約・分析です。法律、医療、雇用、与信など11の分野で、特定の人についての推薦や判断として渡すものでなければ、人の確認の要件はかかりません。2本目は、その11の分野で人について決める使い方で、社員の評価、給与、シフト、与信などが当たります。この場合は、訓練や経験のある人が直す権限を持って中身を確かめ、対象の人にはAIを使ったことを伝えます。3本目は、AIの出力を人の承認なしに機械が実行する使い方で、今回新しく加わりました。人がいつでも止められること、Anthropic社のサービスとの接続が切れたら機械が止まるか安全な状態を保つこと、温度や圧力などの上限をAIとは別の仕組みで守ることが求められます。一方で、AIが作った加工経路やプログラムを、訓練や経験のある人が確かめてから機械で実行する使い方は、対象外の例に挙がっています。

記事では、それぞれの線に当たる作業をClaudeで試しました。架空の部品加工会社の社員30人の記録から、評価面談の材料（数値の5項目）を抜き出させると、2つのモデルとも19回すべてで正解と一致しました。ところが、同じ記録で評価ランクと昇給額まで決めさせると、入力をまったく変えずに10回流しただけで、Claude Sonnet 5.5では30人中5人、Claude Haiku 5.5では14人のランクが変わりました。なお、抜き出しで試したのは項目がそろった記録だけで、書き方がばらばらな日報などは試していません。

架空の熱処理炉の実験では、作業者の指示から炉に送る設定値を出させ、値を決められないときは「要確認」の印を付けるよう指示しました。炉の上限を指示文に書いた場合、上限を超える値を要確認なしで送ったのは150回中0回でしたが、書かなかった場合は6回ありました。記事は、指示文に上限を書くことは、AIとは別に上限を守る仕組みの代わりにはならないと断っています。見落としやすいのは、要確認の印を付けた出力にも、値の欄に数字が入っていた点です。たとえば「P-201を8600℃で」という打ち間違いらしい指示に、Claudeは要確認を付けたうえで、温度の欄に標準条件の860℃を入れて返しています（記事は、どの欄も数値で書くよう求めた出力の形式の影響もあると見ています）。受け取るプログラムが印を読まずに値だけを炉に送る作りだと、作業者が頼んでいない条件で炉が動きます。記事では、印が付いた出力は設備に送らず担当者に回す処理を、受け取るプログラムに持たせるよう勧めています。設備のプログラムを外部の会社に頼んでいる場合も、この処理があるかどうかはその会社に確かめられます。

自社の使い方がどの線に当たるかは、記事の3-5にある表が目安になります。ただし、条文が挙げる対象外の例は網羅的な一覧ではないため、実際の使い方は1つずつ条文と照らす必要があります。人の確認の要件は改定前からあるものなので、人事などで当たる使い方があれば、11月12日を待たずに見直す対象です。また、AIが付けたランクを評価者がそのまま承認するだけの作りでは、人の確認になりません。そこで、AIには材料の抜き出しまでを任せ、ランクは評価者が決める形にすると、条文が挙げる対象外の例に近づけられます。

01のように、AIに調べさせた内容を本や資料として社外に出す使い方は、11の分野で人について判断するものではないので、ポリシーでは人の確認を求められていません。ポリシーが求めない以上、出す前に誰が確かめるかは、会社が自分で決めるしかありません。

今号のまとめ

お知らせ｜京都商工会議所セミナー

代表・仙入が京都商工会議所のセミナーに登壇します

2026年10月26日（月）14:00〜15:30

CONTACT ／ ご相談とサービス資料

AIに任せる業務と人が確かめる場所の整理から、
30分でご相談いただけます

AIを業務に使い始めたものの、どこまで任せてよいか、誰が確かめるかを決めきれていない。そんな段階からのご相談もお受けしています。初回30分の無料相談では、いまAIを使っている業務を伺ったうえで、任せる範囲と、人が確かめる場所を一緒に決めます。導入が決まっていない段階でも、ご担当者だけでもご相談いただけます。弊社が何をどこまで手がけるのかは、サービス紹介資料にまとめています。

株式会社ノーコードソリューションズ

AIの力で、ビジネスを次世代へ。

支援実績 ／ ブログ ／ お問い合わせ ／ 京都のAI導入支援

© ノーコードソリューションズ.