해상 모자이크전 환경에서 군사 목적 인공지능의 윤리적 접근 연구

정승훈^*

해군소령/국방부 정보통신기반정책담당관실 한국형사이버보안제도 평가담당

A Study on the Ethical Approach of Artificial Intelligence for Military Purposes in a Naval Mosaic Warfare

Seunghoon Jung^*

LCDR, ROK Navy/K-RMF Evaluator, Information Infrastructure Division, Ministry of National Defense

Correspondence to: ^*Seunghoon Jung E-mail: hoonyjung9999@gmail.com

초록

AI와 자율시스템을 작전개념과 연결하여 최적의 방책을 제공하는 자동화된 전쟁의 개념을 모자이크전으로 명명하는 연구들이 진행되고 있다. 해상의 경우 함정 자체가 다양한 복합전 임무를 수행하는 점을 고려 시 모자이크전 환경에서 자율성을 가진 인공지능이 향후 큰 비중을 차지하게 될 것으로 예상된다. 이러한 상황에서 최근 여러 기관, 단체 등에서 발표한 윤리원칙을 살펴보고 해상 모자이크전 환경에서 군사 목적 AI의 윤리원칙 7개 항목(프라이버시, 책임성, 보안 및 신뢰성, 투명성 및 설명가능성, 공평성, 통제성, 적용성)을 제안하였다. 제안된 AI 윤리원칙은 향후 미래 해상작전 수행 시 준수되어 관리될 필요성이 있다. 다소 제한적일 수 있겠지만 본 연구를 통해 해상 환경의 특수성을 이해하고 미래 모자이크전에서 향후 해상작전에 인공지능 운용 간 윤리적 문제점을 최소화하는데 효과적으로 활용될 수 있기를 기대한다.

Abstract

Recently, studies that connects artificial intelligence (AI) and autonomous systems to operational concepts, approaches them as the concept of automated war that provides optimal measures, and calls them mosaic warfare. The point of performing various combined combat missions in battle ships should be considered. AI with autonomy is expected to occupy a large proportion in the future in the naval mosaic warfare. In this situation, This study considered the ethical principles recently announced by various institutions and organizations. In addition, seven items (privacy, responsible, security & reliable, transparency & explainability, equitable, governable, applicability) of military purpose AI were proposed in the naval mosaic warfare. The proposed AI ethical principles need to be followed and managed in future naval operations. Although it may be limited, it is expected that this study will understand the specificity of the maritime environment and be effectively used to minimize ethical problems between AI operations in future mosaic warfare.

Keywords:

Artificial Intelligence, Ethical Approach, Naval Mosaic Warfare, AI Vulnerability

키워드:

인공지능, 윤리적 접근, 해상 모자이크전, AI 취약성

Acknowledgments

이 논문은 2022년도 해군사관학교 해양연구소 학술연구과제 연구비의 지원으로 수행된 연구임.

References

박효재, (2022. 2. 27). 우크라이나 전쟁 사이버 전선으로 확대 ... 우크라이나 ‘IT부대’ 창설, 전세계 해커에 도움 요청, 경향신문, https://www.khan.co.kr/world/world-general/article/202202271310001, (검색일: 2022. 3. 12)
김진명, (2022. 3. 20). 美, 유럽에 최첨단 감시·정찰기 띄워 우크라에 정보 제공, 조선일보, https://www.chosun.com/international/us/2022/03/20/MN3JFMFYHJHDZFTDHR2BJGP2QM/, (검색일: 2022. 3. 21)
장영은, (2022. 2. 27). 독일, ‘무기 수출 자제’ 원칙 깨고 우크라에 미사일 지원, 이데일리, https://www.edaily.co.kr/news/read?newsId=01312006632234784, (검색일: 2022. 4. 2)
허광환, (2019). "미국의 다영역 작전(Multi-Domain Operations)에 대한 비판과 수용." 군사연구, 147, pp. 125-153.
Defense Advanced Research Projects Agency (2015, March 30). Operating in Contested Environments, DARPA, https://www.darpa.mil/news-events/2015-03-30 (검색일: 2022. 4. 12)
Stew Magnuson. (2018. 11. 16). DARPA Pushes ‘Mosaic Warfare’ Concept, National Defense, https://www.nationaldefensemagazine.org/articles/2018/11/16/darpa-pushes-mosaic-warfare-concept, (검색일: 2022. 5. 4)
Defense Advanced Research Projects Agency (n.d). DARPA Tiles Together a Vision of Mosaic Warfare, https://www.darpa.mil/work-with-us/darpa-tiles-together-a-vision-of-mosiac-warfare (검색일: 2022. 5. 7)
Bryan Clark, Dan Patt, and Harrison Schramm, (2020). "Mosaic Warfare," Center for Strategic and Budgetary Assessments.
장진오, 정재영, (2020). "미래전을 대비한 한국군 발전방향 제언: 미국의 모자이크전 수행개념 고찰을 통하여," 해양안보(Maritime Security), Vol. 1, No. 1, pp. 215-240.
Raymond McConoly, (2021. 2. 13). The Future of Naval Warfare to Define the Winner of the Big Power Struggle, Naval Post, https://navalpost.com/the-future-of-naval-warfare-to-define-the-winner-of-the-big-power-struggle/, (검색일: 2022. 3. 7)
Dan Parsons (2021. 8. 5). Navy Considering Drone Delivery for Essential Parts At Sea, USNI News, https://news.usni.org/2021/08/05/navy-considering-drone-delivery-for-essential-parts-at-sea, (검색일: 2022. 3. 7)
배성수, (2020. 2. 20). "AI참모가 지휘 돕는 스마트 국방 머지않아," 한국경제, https://www.hankyung.com/it/article/2022022055361, (검색일: 2022. 5. 21)
김의순, (2020). "국방에서의 AI 적용, 미국 사례와 알아야 할 몇 가지," 한국국방연구원.
Ashton B. Carter, (2021. 11. 12). Autonomy in Weapon Systems (Department of Defense Directive No. 3000.09), US Department of Defense, https://www.esd.whs.mil/portals/54/documents/dd/issuances/dodd/300009p.pdf, (검색일: 2022. 5. 21)
김다솔, (2021. 8. 31). 美 드론 공격에 카불 일가족 10명 사망, 이데일리, https://www.edaily.co.kr/news/read?newsId=02082806629152896, (검색일: 2022. 5. 21)
김혜민, (2022. 3. 9). AI 유확당⋯꼼꼼이 · 화끈이의 분석은?, SBS, https://news.sbs.co.kr/news/endPage.do?news_id=N1006669844, (검색일: 2022. 3. 9)
OpenAI (2017. 2. 24). Attacking Machine Learning with Adversarial Examples, https://openai.com/blog/adversarial-example-research/, (검색일: 2022. 4. 17)
Kashif Ahmad, Majdi Maabreh, Mohamed Ghaly, Khalil Khan, Junaid Qadir, and Ala Al-Fuqaha (2020) Developing Future Human-Centered Smart Cities: Critical Analysis of Smart City Security, Interpretability, and Ethical Challenges, arXiv (검색일: 2022. 4. 17) [https://doi.org/10.1016/j.cosrev.2021.100452]
Arunava Chakraborty, (2019. 10. 16). Introduction to Adversarial Machine Learning, FloydHub, https://blog.floydhub.com/introduction-to-adversarial-machine-learning/, (검색일: 2022. 5. 13)
Sai Prabhu Gonigintala, (2020. 5. 21). Adversarial Attack Machine Learning, What After College, https://whataftercollege.com/machine-learning/adversarial-attack-machine-learning/, (검색일: 2022. 5. 13)
Will Douglas Heaven, (2021. 11. 19). The Department of Defense is issuing AI ethics guidelines for tech contractors (美 국방부가 기술기업을 위해 AI 윤리 가이드라인을 마련한 이유), MIT Technology Review, https://www.technologyreview.kr/department-of-defense-government-ai-ethics-military-project-maven/, (검색일: 2022. 5. 13)
김용래, (2019. 5. 22). "인공지능, 인권·민주주의 존중해야" 국제사회 AI원칙 첫 채택, 연합뉴스, https://www.yna.co.kr/view/AKR20190522171100081, (검색일: 2022. 5. 24)
방은주, (2021. 11. 24). 유네스코, 193개 회원국 만장일치로 AI윤리 권고 채택, ZDNet Korea, https://zdnet.co.kr/view/?no=20211124105459, (검색일: 2022. 5. 27)
JAIC Public Affairs, (2021. 2. 26). AI Ethical Principles – Highlighting the Progress and Future of Responsible AI in the DoD, Joint Artificial Intelligence Center, https://www.ai.mil/blog_02_26_21-ai_ethics_principles-highlighting_the_progress_and_future_of_responsible_ai.html, (검색일: 2022. 5. 27)
U.S. Department of Defense, (2020. 2. 24). Immediate Release: DOD Adopts Ethical Principles for Artificial Intelligence, https://www.defense.gov/News/Releases/Release/Article/2091996/dod-adopts-ethical-principles-for-artificial-intelligence/, (검색일: 2022. 5. 27)
박수형, (2020. 12. 23). '한국판 AI 윤리기준' 10대 원칙 담았다, ZDNet Korea, https://zdnet.co.kr/view/?no=20201223105913, (검색일: 2022. 5. 27)
Jessica Fjeld, Nele Achten, Hannah Hilligoss, Adam Chirisopher Nagy, and Madhulika Srikumar, (2020). "Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-based Approaches to Principles for AI," Berkman Klein Center. [https://doi.org/10.2139/ssrn.3518482]
오연주, 김소미, 권태균, (2021. 12). "유네스코 AI 윤리 권고 주요 내용 및 시사점," IT & FUTURE Strategy 보고서 제10호, 한국지능정보사회진흥원(NIA).
Army Times (2015. 8. 13), 7 hurt in Black Hawk 'hard landing' released from hospital, https://www.armytimes.com/news/your-army/2015/08/12/7-hurt-in-black-hawk-hard-landing-released-from-hospital/, (검색일: 2022. 5. 29)
Unofficial UN Navy Site (n.d.) USNS Red Cloud (T-AKR 313), https://www.navysite.de/akr/akr313.htm, (검색일: 2022. 5. 29)
유영준, (2019. 2. 12). 예산 절감 영 해군, 민간선박 군함으로 개조, 연합뉴스, https://www.yna.co.kr/view/AKR20190212055500009, (검색일: 2022. 5. 29)
박수찬, (2021. 9. 21). 中, 자국 영해 진입 ‘위험 선박’에 사전 신고 의무화⋯ 외교적 충돌 가능성, 조선일보, https://www.chosun.com/international/china/2021/09/01/US6GEGP4PRB3BDAFKBKDOFVGWI, (검색일: 2022. 6. 1)
백나리, (2018. 9. 19). [평양공동선언] 한강 하구 공동이용수역 설정⋯민간선박 이용 보장, 연합뉴스, https://www.yna.co.kr/view/AKR20180919099300014, (검색일: 2022. 6. 1)
정승훈, 지해근, 최삼욱, 정남식, 임진국, (2020). "함정 체계통합 발전방향," Bulletin of the Society of Naval Architects of Korea, 57(1), pp. 15-20.
정승훈, (2020). "해상 전자전 수행을 위한 인공지능(AI) 활용방안 연구," Journal of the KNST, Vol. 3, No. 2, pp. 118-124.