연기·동체대비·중도·정명·불살생을 5대 원칙으로
“할 수 있다고 반드시 해야 하는 건 아니다” 기술 만능주의에 제동
마음·관계·노동·소비·사회·생태 아우르는 6대 생활수행 제시
자율형 AI 통제부터 데이터센터 환경책임까지 기업·정부 과제도 담아
 |
| ▲ 신대승네트워크 홈페이지 초기화면 |
인공지능(AI)이 인간의 일과 관계, 사회의 의사결정에 깊숙이 들어오고 있다. 글을 쓰고 그림을 그리는 생성형 AI를 넘어 스스로 판단하고 행동하는 자율형 AI까지 등장하면서 기술의 효율성과 안전성을 넘어서는 질문이 필요해졌다. 기술이 발전할수록 우리의 삶은 나아지는가. 그 편리함은 누구의 노동과 희생 위에 세워지는가.
불교계 시민사회단체 신대승네트워크가 이런 물음을 중심에 둔 「살림을 향한 AI 윤리 가이드라인」을 제안했다. AI를 안전하고 편리하게 사용하는 요령을 넘어 인간의 존엄과 공동체, 생명과 생태계에 미치는 영향을 함께 따져보자는 취지다. 불교적 가치와 생활수행의 관점에서 AI의 개발과 활용, 사회적 책임을 아우르는 불교계 첫 AI 윤리 가이드라인이다.
신대승네트워크가 내놓은 핵심은 ‘살림의 세 가지 질문’이다. “이 기술은 무엇을 살리고 무엇을 희생시키는가”, “누구에게 이익을 주고 누구에게 고통을 떠넘기는가”, “우리의 삶과 공동체, 미래세대와 지구를 더 나은 쪽으로 이끄는가”를 묻자는 것이다. 기술을 얼마나 빠르고 효율적으로 활용할 수 있는지보다 기술이 삶에 어떤 결과를 가져오는지 먼저 살피자는 제안이다.
가이드라인은 신대승네트워크가 정립해 온 ‘신대승불교 생활수행론’을 바탕으로 연기·사성제·보살행의 관점을 AI 윤리에 적용했다. 이를 실천적인 판단 기준으로 구체화한 5대 원칙은 연기, 동체대비, 중도, 정명, 불살생이다. 모든 존재가 서로 연결돼 있다는 연기의 관점에서 기술의 영향과 책임을 살피고, 고통받는 존재를 외면하지 않는 자비의 태도로 AI의 혜택과 위험을 따져야 한다는 것이다.
특히 눈길을 끄는 것은 기술 발전을 무조건 긍정하거나 거부하는 대신 ‘중도’를 판단의 기준으로 삼았다는 점이다. 가이드라인은 “할 수 있다고 해서 반드시 해야 하는 것은 아니다”라는 원칙을 제시한다. 기술적으로 가능하다는 이유만으로 도입을 정당화해서는 안 되며, 생명과 인권, 안전이 걸린 결정에는 사람이 실질적으로 개입하고 최종 책임을 져야 한다는 것이다. 중대한 위험이 예상된다면 기술의 도입과 확산을 늦추거나 멈출 수 있어야 한다고 강조했다.
이는 AI가 스스로 판단하고 행동하는 자율형 기술에 대한 구체적인 제안으로 이어진다. 사람이 AI의 권한과 작동 범위를 제한하고, AI가 어떤 결정을 내리고 실행했는지 확인할 수 있어야 하며, 필요할 때 언제든 작동을 중단하거나 결과를 되돌릴 수 있어야 한다는 것이다. 고도 자율 AI와 AI 연구·개발을 스스로 가속하는 기술에 대해서는 독립적인 안전성 평가와 외부 검증, 사고 보고 체계를 마련하도록 했다. 통제 가능성이 충분히 입증되지 않았다면 개발과 배포, 성능 확대를 늦출 수 있는 제도적 장치도 필요하다고 제안했다.
AI 윤리를 정부의 규제나 기업의 준법 의무에만 맡기지 않고 개인의 일상으로 끌어온 점도 특징이다. 가이드라인은 마음·관계·노동·소비·사회·생태 등 여섯 영역에서 AI 사용을 돌아보는 ‘6대 생활수행’을 제시했다. AI를 사용하면서 더 깨어 있는 사람이 되고 있는지, 아니면 스스로 생각하는 힘을 잃고 있는지 살피자는 것이다. AI가 누구의 노동을 덜어주고 누구의 노동을 지우는지, 자신의 편리함을 위해 어떤 생명과 자원이 쓰이는지도 질문하도록 했다. 윤리를 추상적인 선언이 아니라 매일의 선택과 성찰로 연결하려는 시도다.
불교계 내부를 향한 실천 기준도 담았다. AI를 전법과 교육, 수행을 돕는 방편으로 활용할 수 있지만 종교적·영적 권위를 부여해서는 안 된다는 것이다. AI가 작성한 법문이나 경전 해석은 출전과 사실관계를 확인하고, 종교지도자의 얼굴과 목소리를 동의 없이 합성하지 않도록 했다. 상담과 신행 과정에서 알게 된 개인정보와 민감한 내용을 공개형 AI에 함부로 입력하지 말라는 제안도 포함됐다. 기술이 종교적 실천을 돕더라도 수행과 가르침의 책임까지 대신할 수는 없다는 취지다.
기업과 정부, 사회를 향한 요구는 기술의 사회적 영향 전반을 포괄한다. 개인정보와 데이터 주권 보호, 알고리즘 편향에 따른 피해 구제, 아동·청소년 보호, AI 생성물의 투명성 확보와 인간의 최종 판단 보장을 비롯해 자율형 AI의 통제와 외부 안전성 검증, 사고 보고 체계 구축 등을 제안했다. AI 도입에 따른 노동 전환과 이익 공유, 자율살상무기 금지 역시 주요 과제다.
생태적 책임도 비중 있게 다뤘다. AI 서비스의 확산은 데이터센터와 연산시설의 확대를 동반하며 전력과 물 소비, 탄소배출 문제를 낳을 수 있다. 가이드라인은 AI의 전력·물 사용량과 탄소배출량을 공개하고, 데이터센터 건설 과정에서 지역주민의 참여와 생태영향평가를 보장해야 한다고 요구했다. 디지털 기술을 비물질적이고 무한히 확장할 수 있는 것으로 여기기보다, 그 기반에 놓인 자원과 생태적 비용까지 살펴야 한다는 것이다.
신대승네트워크는 다른 주체에 책임을 요구하는 데 그치지 않고 자체 실천 약속도 내놓았다. AI가 문서 작성과 판단, 창작에 실질적으로 관여했다면 이를 밝히고, 회원과 참여자의 개인정보를 동의 없이 AI에 입력하지 않기로 했다. AI 이미지와 영상도 필요성, 창작자의 권리, 생태적 비용을 고려해 절제해 사용한다는 방침이다. 매년 실천 상황을 점검하고 2년마다 가이드라인을 전면 재검토할 계획이다.
이번 가이드라인은 완성된 규범이라기보다 불교계와 시민사회가 함께 고쳐 나갈 ‘열린 초안’으로 제시됐다. 신대승네트워크는 제안문에서 “‘살림’은 기술의 발전을 막자는 것이 아니라 그 방향을 묻자는 제안”이라며 “사람과 관계, 노동과 공동체를 살리고, 가장 약한 존재의 고통을 줄이며, 미래세대와 다른 생명까지 함께 살아갈 수 있도록 기술의 방향을 전환하자는 것”이라고 밝혔다.
AI 시대의 윤리는 기술을 어디까지 발전시킬 수 있는지를 묻는 데서 그치지 않는다. 그 발전이 누구의 삶을 낫게 하고 어떤 존재를 소외시키는지, 편리함의 대가를 누가 감당하는지까지 물어야 한다. 신대승네트워크의 제안은 AI를 둘러싼 논의를 성능과 경쟁의 문제에서 생명과 책임의 문제로 넓히려는 시도다. 기술의 미래를 결정하는 기준에 ‘무엇을 더 할 수 있는가’뿐 아니라 ‘무엇을 살려야 하는가’를 놓자는 것이다.
문의=010-3270-0548(02-725-1994)
http://www.bulgyonews.co.kr/news/41130
기사에 대한 독자의견
독자의견 (총 0건)
