AI 작업 시 고려 사항

생성 AI는 대부분의 사용자에게 비교적 새로운 기능입니다. 학교는 교육자와 학습자가 빠른 속도로 발전하는 기술에 가장 잘 접근하는 방법에 대해 중요한 결정을 내리고 있습니다.

학교 정책 및 지침

학습자와 함께 AI를 사용하기 전에 학교의 정책 또는 지침을 검토하여 접근 방식을 결정해야 합니다. 이러한 지침에는 다음이 포함될 수 있습니다.

• 생성 AI를 사용할 수 있는 보호자 권한
• 허용 가능하고 가능하지 않은 생성 AI 모델 사용
• 생성 AI를 사용할 때 인용 요구 사항
• 교육 명예 정책

학습자와 함께 생성 AI 플랫폼을 사용하는 경우 허용되는 항목과 각 과제 또는 평가에 없는 항목에 대한 명확한 지침을 제공해야 합니다. 학교에 대한 자세한 내용은 AI 도구 키트를 참조하세요.

디지털 평등

집에서 인터넷에 액세스할 수 있는 학습자는 이 강력한 도구를 과제 및 평가에 사용할 수 있습니다. 인터넷에 액세스할 수 없는 학습자는 동일한 도구에 액세스할 수 없습니다. 디지털 격차 또는 디지털 불평등은 계속 커질 수 있습니다. 수업에서 생성 AI 도구를 사용할 수 있는 기회를 제공하면 모든 학습자가 이 강력한 도구에 액세스할 수 있습니다. 또한 학교와 학교를 넘어 학습자의 생산성과 효율성을 향상시키는 기술을 구축하는 데 도움이 됩니다.

편향 및 조작

큰 언어 모델은 학습된 데이터 세트를 기반으로 새 정보를 생성합니다. 생성하는 정보는 false이거나 조작이라고 할 수 있습니다. 정보를 사용하는 사람은 중요한 사고가 필요한 정보가 사실인지 여부를 결정할 책임이 있습니다. Edge의 Copilot Chat 사용자가 AI의 정확도를 보장하기 위해 횡적으로 읽을 수 있는 웹 사이트를 제공합니다. 이 기능은 Microsoft가 책임 있는 AI 사용을 지원하는 방법의 한 가지 작은 단계입니다.

생성 AI 도구는 편향된 출력을 생성할 수 있습니다. 많은 AI 모델이 주로 서양 중심 데이터 세트의 정보를 사용하여 학습되기 때문에 편향된 출력이 발생할 수 있습니다. 알고리즘이 항상 이러한 중요한 요소를 고려하지는 않습니다. 차별적 견해를 표시하는 AI 출력은 소수 집단에 대한 불평등한 믿음을 계속 심어줄 수 있습니다.

학습자는 세계에 영향을 미친 유명한 수학자에 대한 연구 프리젠 테이션을 시작하려고합니다. 교육자는 할당의 아이디어 부분에 AI를 사용할 수 있도록 허용합니다. 학습자는 Copilot Chat 시작하고 "오늘날 사회에 영향을 미친 10명의 수학자 목록을 만듭니다. 각 수학자에 대해 세 문장을 주세요." Copilot Chat 목록을 생성하기 시작합니다.

Copilot Chat 생성된 10개의 이름 중 3개는 여성이었고 흑인이나 아프리카계 미국인은 없었습니다. 학습자는 수업에서 이러한 편견에 대비한 교훈을 받았기 때문에 "이 아프리카계 미국인이나 흑인 중 한 명입니까?" 라는 또 다른 프롬프트로 응답합니다. Copilot Chat 아프리카계 미국인 또는 흑인 수학자 10명의 목록을 생성합니다.

편향 해결은 개발자의 적극적인 노력이 필요한 생성 AI의 지속적인 문제입니다. 비판적으로 생각하고 AI가 공정성을 생성하는지 확인하면 책임 있는 AI 사용을 향한 여정에 도움이 됩니다. Microsoft는 LLM에서 학습된 데이터 세트가 다른 측정값과 함께 포괄 데이터 집합을 나타내도록 하여 이 문제를 해결하고 있습니다.

데이터 및 개인 정보 보호

Microsoft는 AI를 책임감 있게 발전시키기 위해 최선을 다하고 있습니다. Copilot를 디자인할 때 Microsoft는 생성된 콘텐츠의 출처를 포함하도록 팩트 검사 도구를 모델에 빌드했습니다. 사용자는 사용 중인 AI 도구의 데이터 및 개인 정보 보호 정책을 알고 있어야 합니다. 다시 한 번 말하지만, 중요한 정보 또는 개인 정보는 항상 보호되어야 합니다.