特に、長年利用してきたレガシーシステムを刷新する際に、AIを活用してソースコードを解析したり、ドキュメントを生成したり、テストコードを作成したりすることで、従来より短期間・低コストでシステム刷新を進められる可能性があります。

一方で、

「AIにシステム刷新を任せても本当に安全なのか？」

という疑問を持つ企業も少なくありません。

AIは非常に強力なツールですが、生成されたコードや設計、テスト結果が常に正しいとは限りません。また、既存システムには企業固有の業務ロジックや機密情報が含まれている場合があり、AI活用には情報漏洩、誤生成、脆弱性、品質管理などのリスクがあります。

IPAも2026年のAIセキュリティ情報において、AI利用に伴うサイバーリスクや、AIエージェントの利用拡大に伴う新たな攻撃面について注意を促しています。

そこで重要になるのが、Human-in-the-Loop（HITL）という考え方です。

本記事では、AIモダナイゼーションのメリットとリスク、そして人間とAIが役割分担しながら安全にシステム刷新を進める方法について解説します。

AIモダナイゼーションとは？

AIモダナイゼーションとは、AIを活用して既存システムの分析・移行・再構築・テスト・運用などを効率化するアプローチです。

従来のシステム刷新では、エンジニアが既存ソースコードを一つひとつ確認し、仕様書を整理し、移行設計を作成していました。

AIを活用すると、例えば以下のような作業を支援できます。

• 既存ソースコードの解析

• 古いプログラムの仕様理解

• ソースコードからのドキュメント生成

• VB6などのレガシーコード分析

• テストコードの生成

• コード変換の支援

• API仕様書の生成

• エラーや不具合候補の検出

• データ構造の分析

• 移行対象機能の整理

つまりAIは、レガシーシステムの「理解・分析・変換・検証」を支援するツールとして活用できます。

特に、VB6、COBOL、古いJavaなど、長期間運用されてきたシステムでは、ドキュメント不足や属人化が問題になるため、AIによるコード解析が有効になる可能性があります。

AIだけでシステム刷新することにはリスクがある

AIを利用するとシステム移行を効率化できますが、AIにすべてを任せることには注意が必要です。

1. AIが生成したコードが正しいとは限らない

生成AIはプログラムコードを生成できますが、生成されたコードが必ずしも企業の業務要件を正しく反映しているとは限りません。

例えば、販売管理システムの場合、

「請求金額の計算」

という単純に見える処理にも、企業独自の割引ルールや締め日、税計算、例外処理などが含まれている可能性があります。

AIがソースコードを変換できても、業務上の意味まで完全に理解しているとは限りません。

そのため、最終的な判断には人間による確認が必要です。

2. 機密情報・個人情報の取り扱い

レガシーシステムには、顧客情報、従業員情報、取引情報、営業秘密などが含まれている場合があります。

こうしたデータをAIサービスに入力する場合、情報管理のルールを明確にする必要があります。

IPAもAIセキュリティの課題として、個人情報や営業秘密の漏洩、データ改ざん、サプライチェーン攻撃などを挙げています。

そのため、「AIを使えるか」ではなく、「どのデータを、どの環境で、どの目的に利用するか」

という視点が重要です。

Human-in-the-Loopとは？

Human-in-the-Loopとは、AIにすべての判断を任せるのではなく、重要なプロセスに人間を組み込み、AIの出力を確認・承認する仕組みです。

AIモダナイゼーションでは、

AI → 提案・生成・分析

↓

人間 → 確認・判断・承認

↓

システム → 実行

という役割分担を設計します。

この考え方は、AIを完全自動化するのではなく、AIの処理能力と人間の業務知識・判断力を組み合わせる方法です。

IPAの2026年のAIセキュリティ情報でも、防御側AIの可能性と限界、およびHuman-in-the-Loopの必要性が取り上げられています。

AIモダナイゼーションでHITLを導入する5つのポイント

① AIによるコード解析＋人間による業務確認

まずAIに既存コードを分析させ、処理内容や依存関係を整理します。

例えば、

• このプログラムは何を処理しているか

• どのデータベースを参照しているか

• どの外部システムと連携しているか

• 他のプログラムとの依存関係は何か

などをAIに分析させます。

その結果を、業務担当者やエンジニアが確認します。

これにより、AIの分析速度を活用しながら、業務知識によるチェックを行うことができます。

② AIによるコード変換＋人間によるレビュー

VB6からVB.NET、あるいは古いJavaコードから新しいアーキテクチャへの移行などでは、AIをコード変換の支援に利用できます。

ただし、AIが生成したコードをそのまま本番環境へ投入するのではなく、

AI生成 → Code Review → Test → Human Approval

というプロセスを設けます。

特に金融、医療、製造、物流など、業務停止による影響が大きいシステムでは、レビュー工程が重要になります。

③ AIによるテスト生成＋人間による受入確認

AIはテストケースやテストコードの作成にも活用できます。

例えば、

• 正常系テスト

• 異常系テスト

• 境界値テスト

• APIテスト

• 回帰テスト

などの候補をAIに生成させることができます。

しかし、「テストが通った」ことと「業務上正しい」ことは同じではありません。

そのため、最終的には業務担当者による受入確認を行います。

④ AIによるセキュリティチェック＋専門家による検証

AIはコードの脆弱性候補を発見するためにも利用できます。

例えば、

• 認証処理

• アクセス制御

• SQLインジェクション

• 入力値検証

• APIセキュリティ

• 秘密情報のハードコード

などをチェックすることができます。

ただし、AIによるチェックだけでセキュリティを保証できるわけではありません。

重要システムでは、専門家によるセキュリティレビューや脆弱性診断、必要に応じたレッドチーミングなどを組み合わせることが重要です。

AISI（AIセーフティ・インスティテュート）も、AIシステムについて安全性、プライバシー、セキュリティ、透明性など複数の観点から評価する考え方を示しています。

⑤ 重要な変更には「人間の承認」を必須にする

すべてのAI処理に人間の確認を入れる必要はありません。

重要なのは、リスクに応じて人間の関与レベルを変えることです。

このように、リスクの高い処理ほど人間による承認を必須にします。

AIモダナイゼーションを安全に進める5ステップ

実際にAIを活用してシステム刷新を進める場合、以下のようなプロセスが考えられます。

STEP 1：現状システムを可視化する

既存コード、データベース、外部連携、業務フローなどを整理します。

STEP 2：AIを利用する範囲を決める

「どこまでAIに任せるか」を事前に定義します。

STEP 3：Human-in-the-Loopを設計する

AIの出力を誰が確認し、どのタイミングで承認するのかを決めます。

STEP 4：小規模PoCを実施する

いきなり基幹システム全体をAIで刷新するのではなく、特定の機能や小規模なコードから検証します。

STEP 5：効果とリスクを評価して拡大する

開発時間、品質、コスト、セキュリティなどを評価し、問題がなければ対象範囲を拡大します。

AIモダナイゼーションでは「AI＋人＋開発パートナー」が重要

AIモダナイゼーションを成功させるためには、AIツールだけを導入すればよいわけではありません。

重要なのは、

AIの処理能力

＋

社内担当者の業務知識

＋

経験豊富なエンジニアの技術力

を組み合わせることです。

特にレガシーシステムでは、ソースコードだけでは分からない業務ルールが存在することがあります。

そのため、AIがコードを解析し、エンジニアが技術面を確認し、業務担当者がビジネスロジックを確認するという体制が有効です。

日本企業では、DX・AI人材不足も課題となっているため、必要に応じて外部のIT企業やオフショア開発パートナーを活用することも選択肢になります。

日本企業のAI活用では「ガバナンス」も重要

AIモダナイゼーションを進める際には、技術だけでなく社内ルールやガバナンスも重要です。

経済産業省・IPA・AISIが関係する「AI事業者ガイドライン」は、2026年3月に第1.2版が取りまとめられています。AIの活用では、リスクを把握したうえで適切な管理を行うことが重要です。

企業として、

• AIを利用してよいデータ

• AIに入力してはいけない情報

• AI生成コードのレビュー方法

• セキュリティチェック

• 人間による承認プロセス

• AI利用ログの管理

• インシデント発生時の対応

などを事前に決めておくことで、AIをより安全に活用しやすくなります。

AIモダナイゼーションは「AIに任せる」のではなく「AIと人が協働する」

AIモダナイゼーションは、レガシーシステムの刷新を効率化する可能性を持っています。

特に、

• ソースコード解析

• ドキュメント作成

• コード変換

• テスト生成

• エラー検出

• データ分析

• セキュリティチェック

など、多くの工程でAIを活用できます。

一方で、AIの出力には誤りが含まれる可能性があり、機密情報やセキュリティに関するリスクも存在します。

そのため、重要なのは**「AIにすべてを任せること」ではありません。**

これからのシステム刷新では、

AIが「分析・生成・提案」する

↓

人間が「確認・判断・承認」する

↓

システムが「安全に実行」する

というHuman-in-the-Loop型の開発プロセスが重要になります。

AIを単なる開発効率化ツールとしてではなく、人間の判断を支援するパートナーとして活用することが、より安全で持続可能なAIモダナイゼーションにつながります。

Hatonetでは、日本企業とベトナムIT企業をつなぎ、レガシーシステム刷新、AIモダナイゼーション、クラウド移行、Webシステム開発、AI・DX開発などに対応できる開発パートナー探しを支援しています。

「既存システムにAIを活用したい」「レガシーシステムを安全にモダナイズしたい」「AI開発に対応できるベトナムIT企業を探している」といった課題をお持ちの企業様は、ぜひHatonetまでご相談ください。