AI 에 대한 걱정

1. ChatGPT - Plus
메모리 사용을 수개월 동안 껐는데, 내 이름을 아는 것
(메타데이터를 읽어서 AI가 대화하는 유저에 대한 정보를 기억하는 기능이 내부적으로 있다는 뜻) 
이름이 뭐야? 했을 때 영어와 한국어로 내 이름을 정확히 말하는 것 
 
<> 그럼 이기능을 아에 못하도록 통제해야 하는걸까? 싶다가도 AI와 친밀감을 유도하기 위해서는 익명의 누구 보다는 내 이름을 불러주는게 더 락인 시킬수있는 요소가 될수도 있고, 어떤 사람은 이름을 불르는 것에 불편한 반응을 보이지 않을 수도 있음.  
 
2. Claude - Pro 
증권 API 로 개발 테스트를 하고있는데, 과거 데이터를 수집하려면 모의계좌가 아닌 실제 계좌에 대한 API 주소여야 한다고
실제 계좌랑 연동된 API를 알려달라고 발화 하는것 
그래서 계좌 금액은 0원이라서 실제 API와 연동된 걸 전달해줬더니 실행해보고 안된다고 하는것 
 
Anthropic 측에서 채팅 로그로 계좌에 접근 가능한 access key 를 전달받으면 타인이 내 계좌에 대한 접근이 가능하다는 것 
증권사는 이를 통제할 수 있을까? 타인의 컴퓨터에서 실행되는 걸? 
 
3. 악의적으로 사용될 수 있음. AI와 대화하는 줄 알았는데, 실제로는 사람과 대화하는 상황이 생길 수도, 
그래서 필요한 정보를 받게 유도 당할 수 있음. 휴민트..
 
4. 대화 내용에 대해 암호화되어 저장 된다지만, 누군가 필요에 의해 해당 정보를 복호화 하여 이용하려 하는 순간이 오게 될 수도 있음. 어딘가 쌓이는 것이 문제인가 싶다가도 데이터는 자산이니까 쌓는건 비즈니스 목적으로 쌓을 수 있다 하더라도, 이용 & 활용 하는 데에는 문제가 생긴다. 걍 Group by 때리더라도 맨날 스트레스 받는 무슨 "목적"으로 분석하는가가 중요하다. 
 
5. 학습에 사용되지 않는다. 이용약관에 의해 적어놓는다고 해도 외부적으로 검증할 방법이 없음. 약관 위반했으면 과징금 내면된다. 그럼 이 과징금이 사업을 방해할 수준으로 부과해야하는가? 어느정도 강도여야 하는가? 과징금이 나중에 내는 비용/세금 처럼 될 수도 있는거 아닌가. 그럼 과징금은 어디로 가는가? 피해자한테로 직접 가나? 국고나 지자체 회계로 들어간다. 
 
6. 나와 누군가와 나눈 대화를 타인이 분석을 위해 보는 게 싫듯, 나와 AI가 나눈 대화를 상업적 목적 / 연구적 목적으로 사용하는게 누군가는 싫을 수 있음. 이 권리를 보호해야 하지 않을까.
 
 
분석 업무로 밥벌이를 하고있지만 AI 산업의 분석가, 개인정보가 강한 회사의 분석가는 
어떻게 익명성을 지키면서 분석에 활용할 수 있을지 직업 윤리에 대한 고민이 필요할것 같다. 
그리고 그게 법적으로 보장될 수 있어야 할 것 같다. 
맘만 먹으면, 정보 탈취 하는건 일도 아닐 수도 있을 것 같다. 
내부 통제가 되는가? AI는 안된다. 될지도 모르지만, 그건 생성이 아닌, 규제를 반영한 로직일 것이다. 
그래서 지금 세상을 살고있는 사람들은 모두 종전 이후의 시대 만큼 세상에 책임을 가져야 될 것 같다. 
 
한 시나리오를 생각해보면, 
지금 이란과 미국이 전쟁하고 있는 상황에서 이란에 어떤 말단 군인이 ChatGPT 한테 내일 미국에 대포를 발사할거라는데 나 살아남을수 있을까? 라고 대화를 한다면, 미국은 이 대화를 사용해야할까? 말아야할까? 물론 통제 하겠지만, 극단적인 상황에 대한 예를 들어본것이다.