AI로 만드는 지속가능 도시의 안전장치: 편향·프라이버시·투명성

편향·프라이버시·투명성의 원칙으로 설계하는 도시 AI 안전장치

지식이야기 공학지식팀 지음

지식이야기 2026년 02월 06일 출간

작품소개

책소개

도시는 점점 더 많은 결정을 데이터와 알고리즘에 맡기고 있습니다. 교통 신호, 치안 배치, 에너지 수요 예측, 복지 대상 선정, 재난 대응 우선순위까지 AI가 개입할수록 편향, 프라이버시 침해, 불투명한 판단은 개인의 권리와 공공의 신뢰에 직접적인 부담으로 돌아옵니다. 이 책은 지속가능 도시를 지향하는 과정에서 AI가 만들어낼 수 있는 위험을 과장도 축소도 없이 정리하고, 그 위험을 줄이기 위한 안전장치를 이해 가능한 언어로 설명합니다.

이 책의 핵심은 “무엇이 위험인가”를 정확히 구분하고 “어떤 원칙으로 막을 것인가”를 일관되게 제시하는 데 있습니다. 편향은 어떤 구조에서 생기고 어떻게 불평등을 강화하는지, 프라이버시는 왜 재식별과 추론을 통해 쉽게 흔들리는지, 투명성은 단순 공개가 아니라 검증 가능성과 책임을 포함해야 하는 이유가 무엇인지 차근차근 다룹니다. 또한 공정성의 다양한 정의가 서로 충돌하는 현실, 공개와 보안이 맞부딪히는 지점, 운영 단계에서 드리프트와 자동화 편향이 나타나는 방식처럼 실제로 자주 발생하는 문제의 형태를 중심으로 논의를 전개합니다.

기술적 구현이나 고급 최적화 기법을 설명하기보다, 공공 영역에서 AI를 사용할 때 반드시 갖춰야 할 기본 설계 원칙과 운영 기준을 정리합니다. 최소수집과 목적 제한, 접근 통제와 보관 정책, 문서화와 변경 관리, 평가와 감사, 이의제기와 구제 절차 등은 특정 제품이나 조직의 관행이 아니라 사회적 신뢰를 유지하기 위한 공통의 안전장치로 제시됩니다. 이를 통해 독자는 AI가 도시의 효율을 높이는 도구가 될 수 있으면서도 동시에 시민의 권리와 공동체의 지속가능성을 훼손할 수 있다는 양면성을 이해하고, 무엇을 점검해야 하는지 명확한 기준을 갖게 됩니다.

이 책은 정책 담당자와 공공 서비스 기획자, 도시 문제에 관심 있는 일반 독자, 그리고 AI를 도시 맥락에서 다루는 개발자와 디자이너 모두를 위한 교양서입니다. 지속가능 도시를 ‘더 똑똑한 도시’가 아니라 ‘더 신뢰할 수 있는 도시’로 만들기 위해, AI의 안전장치를 어디에 어떻게 세워야 하는지 한 권으로 정리합니다.


*생성형 인공지능을 활용하여 제작하고 편집 과정을 거쳤습니다. 편집자의 최종 검토를 거쳐 제작되었습니다.

목차

1장 왜 ‘안전장치’가 필요한가
도시 AI가 작동하는 방식의 큰 그림
효율과 권리의 긴장 관계
공공서비스에서 오류가 커지는 이유
기술 문제와 사회 문제의 경계
안전장치의 목표와 범위 정하기
이해관계자와 책임의 분산 문제

2장 도시 AI가 데이터를 만나는 지점
데이터가 정책을 대변하게 되는 과정
센서·행정·민원 데이터의 성격 차이
데이터 누락과 과대표집이 생기는 구조
라벨링과 분류 기준이 만드는 현실
시간 변화와 도시의 계절성
데이터 결합이 만들어내는 새로운 위험

3장 편향이 만들어지는 전형적 경로
대표성 편향과 ‘보이지 않는 집단’
측정 편향과 관측의 불균형
역사적 불평등의 재생산
프록시 변수의 함정
기준선 선택이 결과를 바꾸는 방식
피드백 루프와 자기강화 효과

4장 공정성을 말할 때 생기는 충돌
공정성의 여러 정의가 왜 동시에 불가능한가
집단 공정성과 개인 공정성의 차이
정확도와 공정성의 트레이드오프
임계값 설정과 분배적 결과
맥락에 따라 달라지는 ‘정당함’
공정성 판단에 필요한 공공적 합의

5장 프라이버시를 해치는 방식들
개인식별과 재식별이 일어나는 조건
위치·이동 데이터가 드러내는 민감 정보
데이터 결합과 추론 프라이버시 문제
목적 외 사용과 기능 확장(미션 크리프)
동의의 한계와 정보 비대칭
공공 데이터 공개에서의 역설

6장 프라이버시를 지키는 기본 전략
최소수집과 목적 제한의 실질적 의미
접근권한과 역할 기반 통제
익명화의 기대와 한계
가명처리와 재식별 위험 관리
보관기간·폐기의 정책 설계
위탁·공유 시 책임과 점검 포인트

7장 투명성이란 무엇을 공개하는가
모델 투명성과 운영 투명성의 구분
설명가능성의 목표: 이해, 신뢰, 책임
문서화가 필요한 이유와 범위
시민에게 필요한 정보의 수준
공개와 보안이 충돌하는 지점
‘보이는 것’과 ‘검증되는 것’의 차이

8장 검증과 감사가 작동하는 방식
성능 평가와 사회적 영향 평가의 차이
테스트 데이터가 현실을 대표하지 못할 때
오류 유형과 피해 시나리오 정리
변경 관리와 버전 통제의 의미
독립적 감사가 필요한 이유
문제 발견 이후의 수정 절차

9장 운영 단계에서 생기는 위험과 대응
드리프트: 도시가 변하면 모델도 흔들린다
알람 과다·누락과 현장 부담
자동화 편향과 ‘시스템이 맞다’는 착각
예외 처리와 사람의 개입 기준
민원·이의제기·구제 절차 설계
중단·롤백 등 안전한 종료 조건

10장 공공 영역의 책임 있는 도입 원칙
비례성: 필요한 만큼만 자동화하기
최소 침해와 최대 공익의 균형
취약집단 보호와 차별 방지 원칙
책임소재를 명확히 하는 구조
시민 참여와 정당성 확보
신뢰를 유지하는 커뮤니케이션 기준

인물정보

저자(글) 지식이야기 공학지식팀

지속 가능 도시와 AI에 대한 관심을 바탕으로 독자 니즈와 시장 흐름을 꾸준히 연구하며, 복잡한 내용을 핵심 개념 중심으로 쉽게 정리한 지식콘텐츠를 성실히 제작하고 있습니다.