Flask는 ChatGpt와 같은 실시간 스트리밍 응답을 어떻게 달성합니까?

플라스크를 사용하여 Chatgpt의 실시간 스트리밍 응답을 시뮬레이션하십시오

많은 개발자들은 플라스크 애플리케이션에서 ChatGpt와 같은 실시간 응답 효과를 달성하기를 희망합니다. 콘텐츠 생성은 클라이언트에게 지속적으로 전송됩니다. 그러나 간단한 플라스크 response 객체는이 요구 사항을 충족 할 수 없으며 결과를 보내기 전에 생성기 기능이 완전히 실행될 때까지 기다립니다. 이 기사에서는 플라스크 프레임 워크를 사용하여 진정한 스트리밍을 달성하는 방법에 대해 설명합니다.

문제의 근본 원인은 원래 코드가 response 객체를 직접 사용하여 생성기 기능을 래핑하여 브라우저가 컨텐츠가 표시되기 전에 생성기가 완전히 실행될 때까지 대기하여 예상되는 실시간 응답 효과와 상반되기 때문입니다.

개선의 핵심은 stream_with_context 데코레이터입니다. 다음 코드 스 니펫은 개선 된 접근 방식을 보여줍니다.

 flask import stream_with_context에서 요청

@app.route ( '/stream')
def streamed_response () :
    def generate () :
        '안녕하세요'수율
        수율 request.args [ 'name']
        생산하다 '!'
    return app.response_class (stream_with_context (generate ()))

stream_with_context(generate()) 생성기 함수를 랩합니다. stream_with_context 의 역할은 중요하므로 발전기가 전체 생성기가 완료되기를 기다리지 않고 각 yield 직후에 클라이언트에 데이터를 반환합니다. 이 예에서 프로그램은 먼저 "hello"를 반환 한 다음 요청 매개 변수 name 에 따라 해당 이름을 반환하고 마지막으로 반환하여 "!"를 생성하고 전송하는 효과를 실현합니다.

원래 코드와 비교하여 개선 된 코드는 stream_with_context 사용하여 전체 생성기 기능이 데이터를 반환하기 전에 실행되기를 기다리는 문제를 피하고 실제 스트리밍이 달성되며 클라이언트는 실시간으로 데이터를 수신하여 ChatGPT의 실시간 응답 효과를 시뮬레이션 할 수 있습니다. request.args['name'] 매개 변수 전달 메소드를 보여줍니다. 실제 애플리케이션에서는 데이터베이스 또는 다른 API에서 데이터를 얻는 것과 같은 필요에 따라 다른 데이터 수집 방법으로 대체 할 수 있습니다. 이러한 방식으로보다 역동적이고 대화식 웹 응용 프로그램을 구축 할 수 있습니다.

위 내용은 Flask는 ChatGpt와 같은 실시간 스트리밍 응답을 어떻게 달성합니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!