全国初のAI条例制定。神戸市職員たちの業務効率化とリスク対応

欧州議会で包括的なAI規制法案が可決されたのを皮切りに、世界各国でAIに関する規制の動きが加速しています。日本でもAIに関する規則の見直しが進む中、神戸市は2024年2月に業務でAIを利用する際のルールとなるAI条例案を市議会に提出し、可決されました。これにより、段階的に施行される全国初の包括的AI条例が決定しました。

AI活用の先駆者である神戸市役所企画調整局デジタル戦略部の課長お二人に、代表的な生成AIを活用した業務効率化の事例をインタビューしました。今後のAI活用の展望や課題、実効性のある活用モデルについて掘り下げていきます。

尾田 広樹（おだ ひろき）氏
神戸市役所　企画調整局デジタル戦略部課長（情報政策担当）
区役所、教育、福祉、庁内調整業務を経て、2022年度より現職。

箱丸 智史（はこまる さとし）氏
神戸市役所　企画調整局デジタル戦略部課長（ICT業務改革担当）
民間企業出身。住民情報、区役所、コロナ対策業務を経て2023年度より現職。

目次

1. 神戸市、AI活用に関する全国初の条例を制定
2. 神戸市職員による生成AIの利活用とその効果
3. AI活用のリスクとルール整備の必要性

神戸市、AI活用に関する全国初の条例を制定

ferret：
神戸市はAI利用のパイオニアとして、全国初のAI条例を制定しました（2024年9月から施行）。どのような課題感からAI活用ルールの整備に着手されたのでしょうか。

尾田：
神戸市は、ChatGPTの登場を受けて、AIの利活用に向けた検討を開始しました。ChatGPTが登場したのは2022年11月で、アメリカで先行してリリースされました。その後、日本語版も登場し、2023年に入ってからメディアなどで注目され始めました。

私たちも「このツールはおもしろい」と興味を持ち、2023年4月末から5月にかけて市役所内でデモンストレーションを行い、職員アンケートを実施しました。

しかし、このツールの利用には著作権や情報漏洩の問題、またAIが誤った回答を返すリスクもあります。

ferret：
海外の事例ですが、オランダでAIによるインシデントが発生しました。

尾田：
児童手当の申請システムにAIを使用した結果、電子申請システム内で不正な申請や詐欺を検出するAIが人種差別的な動作をしました。そのため、不正を行っていないにもかかわらず返還を求められる事態が生じ、約26,000世帯が経済的に困窮しました。自殺者まで出てしまうという深刻な社会問題となりました。
参考：AIがオランダで引き起こした大混乱　数万人を不正受給者と誤判断　親子は引き離された

神戸市では、AIを安全かつ積極的に活用していくため、国や諸外国の最新動向や有識者会議の意見も踏まえて検討を行い、全国で初めてとなる包括的なAI利用に関するルールを定めた条例を制定しました。

なお、この有識者会議の構成員である江間有沙氏（東京大学国際高等研究所東京カレッジ 准教授・国AI戦略会議構成員）は、「国でガイドラインの策定が進んでいるが、実務事例が必要であり、神戸市の取組みが自治体のテストケースとなるのであれば素晴らしい」とコメントしています。

条例の施行は2024年９月末となっており、それまでに職員の責務やAI活用に関する基本事項を定めた基本指針、そして市が利用するAIのリスクアセスメントの具体の仕組み構築を行ってまいります。

出典：神戸市資料

尾田：
条例の対象は、神戸市の職員と市からの委託事業者であり、一般市民や市内の事業者を対象としていません。主な内容としては、AIの利用を積極的に進めるためにリスクアセスメントを行い、安全性を確認することが求められています。

また、生成AIの使用にあたっては、非公開情報を入力しないことや、議会での説明に際してはAIの判断に頼らず、自分自身の責任で説明することが義務付けられております。

さらに、神戸市の事業を受託する業者がAIを活用する場合や、業務中に知り得た情報をAIに入力する際には、事前に神戸市と協議することが定められています。

AIを使う前に、どのような内容で利用するかを明確にし、リスクを確認した上で利用することで、リスクを減らしつつAIを積極的に活用していく方針です。

神戸市職員による生成AIの利活用とその効果

ferret：
神戸市は、ほかの自治体に先駆けてデジタル技術を活用した業務改革を進めています。
生成AIの利活用は、職員の仕事の効率にどのような影響がありましたか？