AI Ethics & Social Impact
Permanent URI for this collection
Browse
Recent Submissions
Item Algorithmic Accountability: A Primer(Data & Society Research Institute, 2018-04) Fontaine Claire; Caplan Robyn; Hanson Lauren알고리즘 기반 결정 시스템의 확산이 초래하는 윤리적·사회적 문제를 다루고 있다. 알고리즘이 불투명하게 운영될 경우 편향, 차별, 책임 회피 등이 발생할 수 있으며, 이는 시민의 권리와 신뢰에 부정적 영향을 미친다.Item Artificial Intelligence — The Revolution Hasn’t Happened Yet(Harvard Data Science Review, MIT Press, 2019-11) Jordan Michael I인공지능에 대한 과도한 기대와 기술 중심의 언어가 오히려 사회적 발전을 방해할 수 있다고 경고한다. 저자는 진정한 AI 혁명은 기술이 아니라 인간 중심 설계, 정책 설계, 사회적 신뢰 구축에서 시작된다고 주장하며 신중하고 윤리적인 AI 통합을 강조한다.Item Recommendation on the Ethics of Artificial Intelligence(UNESCO, 2021-11-23) UNESCO유네스코가 193개국 회원국과 합의한 세계 최초의 AI 윤리 국제 기준이다. 공공데이터 사용, 알고리즘 투명성, 인권 보호, 지속가능성 등 다양한 분야에 대해서 기준을 제시한다.Item Big Data’s Disparate Impact(California Law Review, 2016-06-01) Barocas Solon; Selbst Andrew D머신러닝 기반 의사결정에서 나타나는 구조적 차별을 문제화한 고전적 논문이다. AI 윤리와 법제 분야에서 많이 인용되었다.Item The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation(arXiv, 2018-02-20) Brundage Miles; Avin Shahar; Clark JackAI 기술이 사회적 해를 유발할 수 있는 가능성을 체계적으로 제시한 최초의 종합 보고서 중 하나로 윤리적 대응의 필요성과 국제 협력의 필요성을 강조한다.Item A Tale of Two Identities: An Ethical Audit of Human and AI-Crafted Personas(AAAI, 2025-05-07) Venkit Pranav Narayanan; Li Jiayi; Zhou Yingfan; Rajtmajer Sarah; Wilson Shomir본 논문은 LLM이 생성하는 페르소나가 어떻게 특정 사회집단에 나타나는지 컴퓨팅 사회언어학과 HCI 프레임워크로 분석한다.Item 인공지능(AI)과 법조 분야: 윤리적·규제적 고려사항(경제규제와 법, 2019-11) Webley Lisa; 권헌영(역)법률 및 기타 전문 서비스는 4차 산업 시대에 접어드는 가운데, 근본적 기술 변혁으로 인해 변호사, 법률 서비스, 법률 시스템에 방대한 와해가 발생할 것이라는 예측이 있 다. 인공지능(AI)은 아직 전문 서비스 시장을 심각하게 뒤 흔들고 있지는 않으나, 글로벌 법률회사 및 회계 법인의 제 품과 서비스가 더 많이 상품화되고 있는 상황에서 이 업계 의 변화는 멀지 않은 것으로 보인다. 이는 국내 혹은 국가 간 금융 시스템의 운영 방식에 영향을 미치고 결국 전 사회 에 막대한 여파를 가져올 수 있다. AI는 AI 사용에 대한 현행 법적, 규제적 프레임워크의 범위, 한도, 적절성에 대해 근본적인 질문을 제기한다. 전 문가, 비즈니스, 소비자, 정부, 국가가 당면한 윤리적인 도전과제와 위험이 있는 것이다. 이 막강한 기술은 생산 성과 부를 증대하는 한편 사회적 불평등을 줄이고 정의에 대한 접근성을 높이기 위해 사용될 수 있을 것이다. 그러 나 사생활을 침해하거나, 국가나 기업이 개인을 감시하는 데 사용될 수도 있으며, 권위주의적 통제와 사회적 불평등의 심화의 도구가 될 수도 있다. 변호사는 이런 새로운 상황에서 법치주의, 권리의 보호, 바람직한 거버넌스, 정 당한 의사 결정을 지키는데 앞장설 수 있고, 또한 앞장서 야 한다. 본 논문은 법률 서비스와 사법 제도에서 AI 시스템이 어 떻게 사용되는지 살펴볼 것이다. 변호사 등이 의뢰인에게 법적 자문을 제공하는데 어떻게 AI 기술을 활용할 수 있을 지 제안할 것이다. 또한 가상 시대에 관할권의 무력함과 빅 데이터에 접속하여 법적 맥락에서 AI를 개발하는 사람들의 막강함 등 아직 다루어지지 않은 일부 규제적, 윤리적 도전 과제에 대해서도 논의할 것이다. 본 논문은 또한 의사결정의 투명성, 데이터의 질과 데이 터로부터의 유추, 전문가의 책무와 윤리, 법적 책임, 사회 적 수용, 공적 신뢰 등의 주제에 대해서도 간략히 다룬다. 이런 변화가 우리 법률 시스템에 미치게 될 가능한 영향과, AI 기술과 그 사용의 규제적 접근법에 따라 법치가 어떻게 강화되거나 약화될 수 있는지에 대한 논의를 통해 이를 살 펴볼 것이다.Item Safety Devolution in AI Agents(2025-05-20) Yu Cheng; Stroebl Benedikt; Yang Diyi; Papakyriakopoulos OrestisAs retrieval-augmented AI agents become more embedded in society, their safety properties and ethical behavior remain insufficiently understood. In particular, the growing integration of LLMs and AI agents raises critical questions about how they engage with and are influenced by their environments. This study investigates how expanding retrieval access—from no external sources to Wikipedia-based retrieval and open web search—affects model reliability, bias propagation, and harmful content generation. Through extensive benchmarking of censored and uncensored LLMs and AI Agents, our findings reveal a consistent degradation in refusal rates, bias sensitivity, and harmfulness safeguards as models gain broader access to external sources, culminating in a phenomenon we term safety devolution. Notably, retrieval-augmented agents built on aligned LLMs often behave more unsafely than uncensored models without retrieval. This effect persists even under strong retrieval accuracy and prompt-based mitigation, suggesting that the mere presence of retrieved content reshapes model behavior in structurally unsafe ways. These findings underscore the need for robust mitigation strategies to ensure fairness and reliability in retrieval-augmented and increasingly autonomous AI systems.Item 인공지능 윤리와 기업의 책임있는 AI 활동(한국윤리경영학회, 2024-12-14) 김지혜; 조봉순AI 기술의 급속한 발달에 따라 기업들은 AI를 활용하여 운영 효율성을 향상시키고 새로운 비즈니스 모델을 창출하고 있다. 하지만 AI 활용이 증가하면서 예상치 못한 문 제들도 발생하고 있는데 알고리즘 편향, 개인정보 침해, 저작권 문제 등과 같은 윤리적 문제들이 나타나고 있다. 그 결과 AI 기술과 서비스를 제공하는 기업에 대해서는 단순 히 기술적 성능의 향상뿐만 아니라 AI를 책임감 있게 사용하며 사회적, 윤리적 책임을 다해야 한다는 사회적 요구가 커지고 있다. 기업들은 AI 기술을 책임감 있게 개발하고 배포하기 위해 ‘책임있는 AI(Responsible AI)’라는 이름으로 AI의 윤리적 측면에 대한 기업의 대응활동 방향을 마련하고 있다. 본 연구는 먼저 AI와 관련된 윤리적 원칙으로 중시되는 내용들을 살펴본다. 그리고 AI 윤리적 원칙을 실천하기 위한 기업의 ‘책임있는 AI’ 활동을 AI 라이프사이클에 따라 전략 및 계획수립 단계, 생태계 구축 단계, 개발 및 배포 단계, 모니터링 및 보완의 4단계로 구분하여 단계별 주요 활동 내용을 소개한다.