スーパーコンピュータを用いたオンプレミス生成AI基盤の構築と展開

Construction and deployment of an on-premises generative AI infrastructure using supercomputers

高久 雄飛; 坂爪 駿; 木村 英雄

Takaku, Yuhi; Sakazume, Shun; Kimura, Hideo

国立研究開発法人日本原子力研究開発機構(原子力機構)では、業務効率化や研究開発におけるアイデア創出といった観点から、生成AIの活用に対する期待とニーズが高まっていた。しかしながら、ChatGPTをはじめとするクラウド型の外部生成AIサービスは、入力データを学習に利用するという特性を有するため、セキュリティ上の観点から取り扱うことのできない情報が少なからず存在した。また、利用開始までの申請や手続きが煩雑であり、原子力機構内において生成AIが十分に普及・活用されているとは言い難い状況であった。このような背景を踏まえ、我々は原子力機構が保有するスーパーコンピュータ(スパコン)などの既存の計算資源とオープンソースソフトウェアを活用し、導入コストを抑えつつ、安全かつ容易に利用できる生成AI基盤を構築し、原子力機構内へ展開した。その結果、日常業務の効率化に一定の効果が見られたほか、生成AIへの関心が原子力機構全体で高まり、生成AIの活用へ向けた取り組みが拡大するようになった。

At the Japan Atomic Energy Agency (JAEA), expectations and demand for generative AI had been increasing, particularly to improve operational efficiency and foster ideas in research and development. However, cloud-based external generative AI services such as ChatGPT typically use input data for learning, which raised security concerns and prevented handling a considerable amount of information. In addition, the required procedures and applications before use were cumbersome, making it hard to say that generative AI was widely adopted or effectively used within JAEA. To address these issues, we built a generative AI infrastructure using JAEA's existing computing resources, including its supercomputers, and open-source software. This approach kept implementation costs low while ensuring safety and ease of use. After deployment across the organization, we observed notable improvements in daily operational efficiency and a surge in interest in generative AI, leading to expanded initiatives for its utilization.