최근 인공지능 기술의 놀라운 발전은 큰 변화를 가져오고 있지만, 윤리적인 문제에 대한 우려도 커지고 있습니다. 특히, 생성형 AI기술은 영상, 이미지, 음악 등의 창작하는 성능을 통해 여러 분야에 적용되고 있지만 윤리적 문제는 여전히 논쟁 중입니다.
생성형 AI의 빛과 그림자
범죄 가능성 염려
생성형 AI 기술은 딥페이크 이미지, 악성코드, 가짜 뉴스 등의 새로운 콘텐츠로 인한 범죄 노출 가능성이 있기 때문에 심각한 사회적 문제가 될 수 있습니다.
가짜뉴스 : 실제 기사와 같이 가짜 뉴스를 충분히 만들 수 있는 능력 있으며, 현재 기술로도 구현이 가능한 것으로 알려져 있습니다.
딥페이크 : 실제 인간을 모방할 수 있는 기술이 상용화되었기 때문에 악용되었을 경우 인권침해에 해당하는 범죄에 노출될 수 있죠. 아무리 조심한다고 해도 불특정 다수를 노리는 범죄들이 많이 때문에 사회적 문제가 되고 있습니다.
피싱, 악성코드 : 생성형 AI는 악성코드를 자동으로 생성할 수 있으며, 놀랍게도 공격 또한 스스로 감행할 수 있습니다.
사기 범죄 : 개인정보 유출이나 유사한 영상과 문서를 만들어 피해자들을 양산할 수 있습니다.
결과값의 편향성
생성형 AI는 학습한 데이터를 있는 그대로 반영하기 때문에 한쪽 방향으로 정치, 사회, 경제 등 다양한 분야에서 편향성이 발생할 수 있으며, 그대로 대중에게 노출될 가능성이 높습니다.
예를 들어, 서양의 음식만 데이터를 학습할 경우 동양인의 음식은 표현하지 못할 가능성이 있습니다. 따라서 사회적 차별이 생기거나 확증 편향 문제가 대두될 수 있죠.
편향성의 발생 원인은 데이터 자체가 편향되었을 경우, 알고리즘 자체가 편향되었을 경우, 사용자기 편향된 반식으로 사용할 경우 등으로 인해 발생할 수 있으며, 결국 불공정한 결과를 낳게 될 것으로 전문가들은 우려하고 있습니다.
저작권 논쟁
창작성 침해 : 과연 생성형 AI가 만든 작품을 어디까지 창작성, 독창성들을 인정할 것인지 여부가 논쟁거리입니다. 인간의 개입 정도에 따라 달라질 수 있는지, 아니면 알고리즘 개발자의 성향 혹은 종류별 모델에 따라 달라질 수 있는지 등의 문제점들이 발생할 수밖에 없습니다.
저작권 소유 : 생성형 AI로 만든 데이터 결과물은 누구에게 저작권이 있는지에 대한 사회적 합의가 필요한 상황입니다. 생성형 AI 개발자가 저작권을 주장할 수 있으며, 그 기술을 사용한 사용자가 저작권 주장을 할 수 있죠. 생성형 AI가 더 똑똑해진다는 가정하에는 AI 스스로가 저작권자라로 주장할 수도 있습니다.
저작권 침해 : 표절과 모방은 저작권 침해에 해당하지만 유사하게 만든 AI 작품을 어디까지 저작권 침해로 봐야 되는지 판단하기가 굉장히 어렵습니다.
인간의 존엄성 문제
생성형 AI 기술을 이용하여 누군가의 외모, 목소리 등을 유사하게 모방하여 대화할 수 있는 가상 인간을 만들 수 있습니다. 그 가상인간과 실제사람들과의 관계를 어떻게 설정할 것인지에 대한 논의가 필요하다는 지적이 있습니다. 즉, 단순 인간의 도우미 역할을 부여할 것인지, 사람들과 협력 관계의 역할을 부여할 것이지 등에 대한 논의죠.
결국 인간의 외모, 성격, 목소리, 패턴까지 모방할 수 있기 때문에 인류의 존엄성에 대한 도전이 있을 수 있습니다.
기술의 투명성 부족
생성형 AI 기술은 사용자에 따라 각기 다른 데이터를 만들어 낼 수 있습니다. 따라서 생성형 AI의 개발 과정과 작동방식이 투명하지 않으면 결과적으로 책임 소재가 불분명하죠, 그렇게 되면 AI 기술에 대한 대중적 불신이 생길 수밖에 없으며, 결국 AI 기술 발전은 규제에 가로막혀 발전 성장성을 저해할 수 있습니다.
따라가 개발자들의 사회적, 윤리적인 책임 의식이 필요한 때인 것 같습니다.
생성형 AI 대표 모델의 활용 범위
| GAN(Generative Adversarial Networks) | VAE(Variational Autoencoders) | Transformer | Diffusion Models | |
| 작동방식 | 두개의 인공신경망이 경쟁 학습 생성 인공 신경망 판별 인공 신경망 새로운 데이터 생성 | 데이터의 잠재공간 학습 새로운 데이터 생성 | 인코더, 디코더 구조로 입력 데이터 변환 새로운 데이터 생성 | 데이터 노이즈를 점진적으로 제거 새로운 데이터 생성 |
| 장점 | 높은 정확성 다양한 데이터 생성 가능 | 데이터 특징을 반영 특화 | 긴 시퀀스 데이터 처리 가능 높은 정확성 | 높은 사실성 학습과정이 안정적 |
| 단점 | 학습과정 복잡 불안정함(대량의 데이터 필요) | 학습 과정 느림 | 학습 데이터 의존도가 높음 | 학습과정이 느림 비용 높음 |
| 대표모델 | StyleGAN, BigGAN | VAE, B-VAE | GPT3, Bard | DDPM, Imagen |
| 활용분야 | 이미지, 텍스트, 음악 생성 | 이미지, 텍스트 생성 | 텍스트, 번역, 요약 생성 | 이미지, 음악 생성 |
생성형 AI의 윤리적 문제 해결방안
데이터의 편향성 문제해결
- 기본적인 학습데이터의 편향성을 검증하고 제거하는 노력이 필요합니다. 또한 알고리즘 개선과 개발자와 사용자들의 인식 교육 및 책임감이 뒤따라야 되며, 결국 생성형 AI의 윤리적 가이드라인 및 제재가 필요할 것으로 보입니다.
저작권 문제해결
- 창작자들의 권리인 저작권을 어디까지 규정해야 하는지 명확한 법적 정비가 필요합니다. 그렇지 않으면, 창작자들의 권리가 어느 수준까지 침해되는지 모르기 때문에 크게는 인간 예술 분야의 발전에 심각한 저해를 초래할 것으로 보고되고 있습니다.
- 결국 생성형 AI의 기술발전은 곧 인간의 저작권 문제를 더욱 복잡하게 만드는 단초가 될 수 있죠. 따라서 글로벌 협력을 통해 생성형 AI 기술의 특성을 고려해서 저작권 콘텐츠 사용에 대한 가이드라인이 마련되어야 할 것입니다.
기술의 투명성 문제해결
- 개발자들은 알고리즘에 대한 구조나 작동 방식을 투명하게 공개해야 하며, 데이터의 편향성에 대한 문제인식도 함께 가져가야 합니다. 결국 어떻게 개발하고 그 과정을 투명하게 오픈하는 것이 올바른 AI 사용을 유도하는 과정이 될 것입니다.
- 또한 생성형 AI 개발자들은 강력한 책임감을 겸비해야 하며, 필요시 AI 개발에 대한 윤리적 가이드라인이 마련되어야 할 것입니다.
인간 존엄성 확보 해결
- 현재는 생성형 AI 기술이 윤리적 의식보다 앞서가고 있는 상황입니다. 결국 사회적으로 인식이 부족하게 되고 법적으로 규제가 미흡한 결과를 초래하고 있죠.
- 따라서 생성형 AI 기술 개발에 대한 사회적 논의가 절대적으로 필요하며 그에 수반되어서 윤리적 가이드라인 마련, 법적 규제 마련, 개발자와 사용자들의 책임의식과 교육, 홍보 등이 필요한 상황입니다.
이렇게 생성형 AI의 기술은 인간에게 긍정적인 면을 보여줄 수도 있지만 동시에 사회에 부정적인 역할을 할 수 있습니다. 따라서 개발자, 사용자, 정부기관들의 윤리적 책임 의식이 강력하게 필요되는 시점입니다.