bug in generator.py

[4N3MONE]

버그 설명

RuntimeError: 
        An attempt has been made to start a new process before the
        current process has finished its bootstrapping phase.
        This probably means that you are not using fork to start your
        child processes and you have forgotten to use the proper idiom
        in the main module:
            if name == 'main':
                freeze_support()
                ...
        The "freeze_support()" line can be omitted if the program
        is not going to be frozen to produce an executable.

평가 엔진으로는 vllm을 사용하였습니다.

해결 방법

if __name__ == '__main__':
    freeze_support()
    main()

이런 식으로 코드를 수정해서 해결했습니다. 그러나 제 환경에서만 발생하는 에러일수도 있기에 이슈로 달아둡니다.

[StableFluffy]

vllm-project/vllm#5637
현재 vllm 릴리즈에서 발생하는 이슈입니다.

[4N3MONE]

감사합니다. 이런 상황을 방지하기 위해 requirements.txt를 추가하는 것도 제안해 봅니다. 이슈 닫겠습니다!