시 정부의 AI 애플리케이션 탐색: 가능성과 위험

AAAS 공공 문제의 과학적 증거 센터의 Kate Stoll 및 Danielle Grey-Stewart와 공동으로 작성되었습니다.

인공지능(AI)이 업무 환경을 바꾸고 있으며, 지방자치단체도 예외는 아니다. 도시, 마을, 마을에서는 AI의 힘을 활용하여 결의안 초안 작성, 소셜 미디어 콘텐츠 생성, 주민 정보 요약, 데이터 기반 의사결정 개선 등을 수행할 수 있습니다. 그러나 모든 시립 애플리케이션이 AI에 적합한 것은 아니며 모든 AI 기술이 정부 사용에 적합한 것은 아닙니다.

지역 지도자들을 위한 AI의 기회와 위험을 논의하기 위해 National League of Cities와 미국 과학진흥협회 공공 문제의 과학적 증거 센터는 8월 10일에 가상 이벤트를 공동 주최했습니다. .”

지자체의 AI 애플리케이션 및 정책에 관한 대화는 빙산의 일각에 불과했지만, 이번 행사에서 몇 가지 주요 시사점을 얻을 수 있습니다.

인공지능은 마법의 해결책이 아니다 . Carnegie Mellon University의 Responsible AI Initiative의 공동 리더인 Hoda Heidari 교수로부터 AI가 데이터에서 패턴을 찾기 위해 고안된 통계 프로세스를 어떻게 활용하는지에 대해 들었습니다. 이는 지역 지도자들에게 귀중한 도구가 될 수 있습니다. 그러나 인간이 내린 결정과 마찬가지로 AI 시스템은 훈련, 사용하는 데이터 및 최종 적용에 따라 편견과 차별의 가능성이 있습니다. AI를 사용하여 결과적인 결정을 알리거나 사람들의 삶에 영향을 미치는 위험 평가를 제공하는 경우 각별한 주의가 필요합니다.

많이있다AI의 종류 . ChatGPT나 Google Bard와 같은 생성적 AI는 기술의 한 유형일 뿐입니다. 텍스트용 생성 AI는 인터넷을 포함한 다양한 소스에서 가져온 텍스트에 따라 따를 가능성이 가장 높은 내용을 기반으로 문장의 다음 단어, 단락의 다음 문장 등을 예측하는 방식으로 작동합니다. Generative AI는 일반적으로 정확성을 테스트하지 않습니다. 인간은 출력을 사실 확인해야 합니다.

실험하고 검증해보세요! 매사추세츠주 보스턴 시의 생성적 AI 사용을 위한 임시 지침은 AI 도구가 시 직원의 업무에 어떻게 도움이 될 수 있는지를 강조합니다. 그러나 이러한 잠재력은 결과에 대한 직원의 책임을 제거하지 않으므로 검증과 책임이 필수적입니다. Boston의 최고 정보 책임자(CIO)인 Santiago Garces는 다음과 같은 세 가지 기본 원칙을 강조했습니다.

1) 모든 생성 AI 결과에 대한 사실 확인 및 검토: 인간은 AI 사용 여부에 관계없이 자신이 게시하는 모든 제품이나 결과에 대한 궁극적인 책임을 집니다.

2) 생성 AI가 사용된 시기 공개: 구성원은 지방 정부로부터 투명성을 기대합니다.

3) 민감하거나 개인적인 정보를 공유하지 마십시오. 생성 AI 프롬프트에 입력된 정보는 본질적으로 비공개가 아니므로 보안 위협에 취약할 수 있거나 모델을 제공하는 회사가 기술을 추가로 교육하기 위해 가져갈 수 있습니다.

AI는 대도시에만 적용되는 것이 아닙니다. 다른 신흥 기술에는 상당한 기술 교육과 직원 자원이 필요한 경우가 많지만, 자연어 입력을 기반으로 하는 생성 AI 도구를 사용하면 모든 규모의 도시에서 그 가치를 활용할 수 있습니다. 미주리주 웬츠빌시는 도시 커뮤니케이션의 특정 측면을 자동화하기 위해 생성적 AI 도구를 시험하고 있으며, 이는 시 직원의 창의적이고 전략적인 사고를 위한 더 많은 시간과 공간을 창출합니다. Wentzville은 대면 교육을 제공하며 생성 AI 사용에 대한 직원을 위한 가상 교육이 필요합니다.

8월 행사는 지방 정부에서 AI 애플리케이션의 가능성과 위험에 대해 제기된 많은 질문의 표면을 긁었을 뿐입니다. 당신이 사는 도시나 마을에서 AI를 사용하는 것에 관해 어떤 질문이 있습니까? 귀하의 도시를 디지털 미래로 이끌 수 있는 AI의 창의적인 응용 프로그램은 무엇입니까? 당신이 사는 도시나 마을에서 AI의 안전한 사용을 보장하려면 어떤 가드레일을 설치해야 합니까?