Azure OpenAI(미리 보기)

배포된 모델의 배포 ID

API 버전

문자열로 인코딩된 포함을 가져올 입력 텍스트의 배열입니다. 각 입력 문자열의 길이가 2048 토큰을 초과해서는 안 됩니다.

Azure OpenAI가 남용을 모니터링하고 감지하는 데 도움이 될 수 있는 최종 사용자를 나타내는 고유 식별자입니다.

사용할 포함 검색의 입력 형식입니다.

배포된 모델의 배포 ID

API 버전

사용할 샘플링 온도(0에서 2 사이)입니다. 0.8과 같이 값이 높을수록 출력이 더욱 무작위로 생성되고, 0.2와 같이 값이 낮을수록 출력이 더욱 집중되고 결정적이게 됩니다. 일반적으로 이 항목 또는 top_p 중 하나만 변경하는 것이 좋습니다.

모델이 top_p 확률 질량을 가진 토큰의 결과를 고려하는 핵 샘플링이라고 하는 온도를 사용한 샘플링의 대안입니다. 따라서 0.1은 상위 10% 확률 질량을 구성하는 토큰만 고려됨을 의미합니다. 일반적으로 이 항목 또는 temperature 중 하나만 변경하는 것이 좋습니다.

설정되면 ChatGPT의 경우처럼 부분 메시지 델타가 전송됩니다. 토큰은 사용할 수 있게 되면 데이터 전용 서버 전송 이벤트로 전송되고 스트림은 data: [DONE] 메시지로 종료됩니다.

API가 추가 토큰 생성을 중지하는 최대 4개의 시퀀스입니다. 반환된 텍스트에는 중지 시퀀스가 포함되지 않습니다.

생성된 답변에 허용되는 최대 토큰 수입니다. 기본적으로 모델이 반환할 수 있는 토큰 수는 (4096 - 프롬프트 토큰)입니다.

-2.0~2.0 사이의 숫자 양수 값은 지금까지 텍스트에 나타나는지 여부에 따라 새 토큰에 페널티를 부여하여 모델이 새 항목에 대해 이야기할 가능성을 높입니다.

-2.0~2.0 사이의 숫자 양수 값은 지금까지 텍스트의 기존 빈도를 기준으로 새 토큰에 불이익을 주어 모델이 동일한 줄을 그대로 반복할 가능성을 줄입니다.

지정된 토큰이 완성에 나타날 가능성을 수정합니다. 토큰(토크나이저에서 토큰 ID로 지정)을 -100에서 100 사이의 관련 바이어스 값에 매핑하는 json 개체를 허용합니다. 수학적으로, 바이어스는 샘플링 전에 모델에 의해 생성된 로짓에 추가됩니다. 정확한 효과는 모델마다 다르지만 -1과 1 사이의 값은 선택 가능성을 줄이거나 높입니다. -100 또는 100과 같은 값은 관련 토큰을 금지하거나 독점적으로 선택하게 합니다.

Azure OpenAI가 남용을 모니터링하고 감지하는 데 도움이 될 수 있는 최종 사용자를 나타내는 고유 식별자입니다.

메시지 작성자의 역할입니다.

정의된 형식을 가진 콘텐츠 파트의 배열로, 각각 형식 text일 수 있습니다.

단일 Azure OpenAI 채팅 확장에 대한 구성 데이터의 표현입니다. Azure OpenAI 채팅 확장을 사용하여 응답 동작을 보강해야 하는 채팅 완성 요청에 사용됩니다. 이 구성의 사용은 Azure OpenAI와만 호환됩니다.

구성된 쿼리에 대해 기능할 구성된 상위 문서 수입니다.

쿼리를 인덱싱된 데이터 사용으로 제한해야 하는지 여부입니다.

검색 관련성 필터링의 구성된 엄격성입니다. 엄격성이 높을수록 정밀도가 높지만 대답의 재현율이 낮습니다.

모델에서 동작하는 방법과 응답을 생성할 때 참조해야 하는 컨텍스트에 대한 지침을 제공합니다. 도우미의 성격을 설명하고 응답 형식을 지정하는 방법을 알려줄 수 있습니다. 토큰 제한은 100개이며 전체 토큰 제한에 대해 계산됩니다.

참조된 Azure Search 리소스에서 사용할 수 있는 인덱스의 이름입니다.

제목으로 사용할 인덱스 필드의 이름입니다.

URL로 사용할 인덱스 필드의 이름입니다.

파일 경로로 사용할 인덱스 필드의 이름입니다.

콘텐츠로 처리해야 하는 인덱스 필드의 이름입니다.

콘텐츠 필드에서 사용해야 하는 구분 기호 패턴입니다.

벡터 데이터를 나타내는 필드의 이름입니다.

Azure OpenAI 채팅 확장으로 사용할 때 실행해야 하는 Azure Search 검색 쿼리의 유형입니다.

쿼리에 대한 추가 의미 체계 구성입니다.

검색 필터입니다.

Azure OpenAI On Your Data가 벡터 검색에 사용할 데이터의 벡터화를 구성하는 데 사용할 수 있는 원본을 나타냅니다.

벡터화에 사용할 모델 배포의 이름을 지정합니다. 이 모델 배포는 동일한 Azure OpenAI 리소스에 있어야 하지만 On Your Data는 퍼블릭 호출이 아닌 내부 호출을 통해 이 모델 배포를 사용하므로 프라이빗 네트워크에서도 벡터를 검색할 수 있습니다.

각 입력 메시지에 대해 생성할 채팅 완성 선택 항목 수입니다.

지정된 경우 시스템은 동일한 매개 변수와 매개 변수가 있는 반복된 요청이 동일한 seed 결과를 반환하도록 결정적으로 샘플링하는 데 최선을 다할 것입니다. 결정성은 보장되지 않으며 응답 매개 변수를 system_fingerprint 참조하여 백 엔드의 변경 내용을 모니터링해야 합니다.

출력 토큰의 로그 확률을 반환할지 여부를 나타냅니다. true인 경우 content의 message에 반환된 각 출력 토큰의 로그 확률을 반환합니다. 이 옵션은 현재 모델에서 gpt-4-vision-preview 사용할 수 없습니다.

각 토큰 위치에서 반환할 가능성이 가장 높은 토큰 수를 지정하는 0에서 5 사이의 정수이며, 각 토큰 위치는 연결된 로그 확률이 있습니다. 이 매개 변수를 사용하는 경우 logprobs를 true로 설정해야 합니다.

JSON 모드를 json_object 사용하도록 설정 이렇게 하면 모델이 생성하는 메시지가 유효한 JSON이 됩니다.

배포된 모델의 배포 ID

API 버전

문자열로 인코딩된 포함을 가져올 입력 텍스트입니다. 입력 문자열의 길이가 2048 토큰을 초과해서는 안 됩니다.

Azure OpenAI가 남용을 모니터링하고 감지하는 데 도움이 될 수 있는 최종 사용자를 나타내는 고유 식별자입니다.

사용할 포함 검색의 입력 형식입니다.

배포된 모델의 배포 ID

배포된 모델의 배포 ID 확인

API 버전

대화에 있는 메시지의 인덱스입니다.

이 메시지 작성자의 역할입니다.

네임스페이스> 형식의 <메시지 받는 사람입니다.<작업을 수행합니다>. 받는 사람이 도구인 경우에만 표시됩니다.

메시지의 내용

메시지가 턴을 종료하는지 여부입니다.

데이터 원본 형식입니다.

런타임에 데이터 원본에 사용할 매개 변수입니다.

사용할 샘플링 온도(0에서 2 사이)입니다. 0.8과 같이 값이 높을수록 출력이 더욱 무작위로 생성되고, 0.2와 같이 값이 낮을수록 출력이 더욱 집중되고 결정적이게 됩니다. 일반적으로 이 항목 또는 top_p 중 하나만 변경하는 것이 좋습니다.

모델이 top_p 확률 질량을 가진 토큰의 결과를 고려하는 핵 샘플링이라고 하는 온도를 사용한 샘플링의 대안입니다. 따라서 0.1은 상위 10% 확률 질량을 구성하는 토큰만 고려됨을 의미합니다. 일반적으로 이 항목 또는 temperature 중 하나만 변경하는 것이 좋습니다.

설정되면 ChatGPT의 경우처럼 부분 메시지 델타가 전송됩니다. 토큰은 사용할 수 있게 되면 데이터 전용 서버 전송 이벤트로 전송되고 스트림은 data: [DONE] 메시지로 종료됩니다.

배열 최소 크기 1 및 최대 4

생성된 답변에 허용되는 최대 토큰 수입니다. 기본적으로 모델이 반환할 수 있는 토큰 수는 (4096 - 프롬프트 토큰)입니다.

-2.0~2.0 사이의 숫자 양수 값은 지금까지 텍스트에 나타나는지 여부에 따라 새 토큰에 페널티를 부여하여 모델이 새 항목에 대해 이야기할 가능성을 높입니다.

-2.0~2.0 사이의 숫자 양수 값은 지금까지 텍스트의 기존 빈도를 기준으로 새 토큰에 불이익을 주어 모델이 동일한 줄을 그대로 반복할 가능성을 줄입니다.

지정된 토큰이 완성에 나타날 가능성을 수정합니다. 토큰(토크나이저에서 토큰 ID로 지정)을 -100에서 100 사이의 관련 바이어스 값에 매핑하는 json 개체를 허용합니다. 수학적으로, 바이어스는 샘플링 전에 모델에 의해 생성된 로짓에 추가됩니다. 정확한 효과는 모델마다 다르지만 -1과 1 사이의 값은 선택 가능성을 줄이거나 높입니다. -100 또는 100과 같은 값은 관련 토큰을 금지하거나 독점적으로 선택하게 합니다.

Azure OpenAI가 남용을 모니터링하고 감지하는 데 도움이 될 수 있는 최종 사용자를 나타내는 고유 식별자입니다.