The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation
No Thumbnail Available
Date
2018-02-20
Authors
Journal Title
Journal ISSN
Volume Title
Publisher
arXiv
Abstract
AI 기술이 사회적 해를 유발할 수 있는 가능성을 체계적으로 제시한 최초의 종합 보고서 중 하나로 윤리적 대응의 필요성과 국제 협력의 필요성을 강조한다.
Description
인공지능(AI)과 기계학습(ML) 기술은 전례 없는 속도로 발전하고 있습니다. 이러한 기술들은 기계 번역부터 의료 영상 분석에 이르기까지 다양한 유익한 응용 분야에서 활용되고 있으며, 앞으로도 무수히 많은 새로운 활용 사례들이 개발되고 등장할 것으로 기대됩니다. 그러나 인공지능이 악의적으로 사용될 수 있는 방식들에 대해서는 그동안 상대적으로 적은 관심이 집중되어 왔습니다.
이 보고서는 인공지능 기술의 악의적 사용으로부터 발생할 수 있는 보안 위협의 전반적인 양상을 살펴보고, 이러한 위협을 더 잘 예측하고, 예방하며, 완화할 수 있는 방법들을 제안합니다. 우리는 장기적으로 공격자와 방어자 간의 균형이 어떻게 형성될지에 대한 질문을 분석하지만, 이에 대해 최종적인 결론을 내리지는 않습니다. 대신, 적절한 방어체계가 마련되지 않을 경우 가까운 미래에 발생할 가능성이 높은 공격 유형들에 중점을 두어 다룹니다.
Keywords
AI Misuse, AI Security, Dual-Use Technologies, Cyber Threats, Policy
Citation
arXiv:1802.07228