Advanced Search

SERP-Genius

0 Reputation

0 Badges

0 years, 163 days
Contact SERP-Genius
???? ???????? ?????? ?? ?????? ????? ????? https://lilianweng.github.io/lil-log/ ??????? ? ????????????? ??????? ????????, ??? ????????? ??????? ???????? ??????????, ????? ??? ???????, ???? ??? ??? ????. ??? ?????? ???????? ?????, ?????????? ? ???????? ????????, ???????????? ?????? ? ?????? ??????.? ????? ????? ? ??????????. ?????? ????????? ???????????? ? ?????????? ????????????? ?????, ????? ??? «?????? — ??? ??????» ??? «?????? — ??????? ??????????????». ??? ?????? ????????? ??????? ???????????? ????????????? ?????.? ???????????? ? ?????????? ??????. ???? ???????? ?????????? ?????? ? ??????? ??????? ???????? ?? ???????. ? OpenAI ????????? ?????? RLHF (???????? ? ????????????? ?? ?????? ???????? ????? ?? ????????), ??????? ????????? ???????? ????? ?????????????? ? ???????? ? ????????????? ?????????????. ??? ???????? ???????? ?????? ???? Llama-2 ????????? ???????? ?????? ??????? — ????? 10 ????????. ?????????? ?? ?????????? ?????????? ????, ???? ??, ? ? ?????????? ?? ??????????? ??????? ????? ????????????? ?????????-??????????????, ????????? ?????? ??? ????? ??????? ??????. ??????????? ??????? ?? ?????????? ???? ??????? — ??? ??, ??? ? ????????????? ????. ? ??????? ???????? ???????????? ?? ?????????? ? ????? ??????? ? ?? ????, ????? ??????????? ??????????? ????????? ?????. ??? ?????? ??????????? ???????????? ????????????? ? ???, ??? ??????? ???????? ?????? ???????? ????????????? ?? ?????? ?????????? ???????????? ?????????? ??????. ?? ????? ????, ?????? ??? ????? ????????? «???????» ????, ????? ????? ?? ???????? ?????, ??? ?? ??? ????????????. ????????? vLLM ????? ???????????? ??????? ?????? ?????? ? ??????? CUDA/HIP-??????. ?????????? ?????????? ? API OpenAI ? ???????? ?? ????????? ????????????, ???????? NVIDIA ? AMD GPU, Intel CPU ? GPU. ????? ? ?????????? ??????? ???????? ??????? ??????? ?? ???????? ??????. ????????? ??????? ?????????? ? ?????????????? ??????, ? ????? ????????? ???????? ???? ????????? ??????? ? ?????? [20]. ??????? ???????? ? ??????? ??????????????? LLM ??????? ??????????? ???????? ?? ????????? ???????????? ? ?????????, ????????? ? ?? ??????????? ? ??????????????. ??? ???????? ????????? ???????? ? ???????????, ????????? ? LLM, ???????????? ????????????? ?????????? ? ????????? ??????? ? ????? ??. T5 ?????? ?????? ???? ? ??????????? ???????????? ?? ???????????? ???????? ? ?????????????? ????????, ????????????????? ????????? ????? ????????????? ??????, ??????????? ????????? ? ????????? ??????? ???. ???????? ?????? ?????? ?? ???????? ??????? ??????, ??????? ????? ???????? ???????? ?????????? ????????????? ? ????????? ??????. RNN ????? ???????????????? ???????????????? ??????, ????? ??? ????? ??? ??????, ??-?? ?? ?????????, ??????? ?? ??????. ????????????? ??????????? ? ???????????, ??????? ???????? ????? ???????? ??????? ? ?? ??????????? ???????? ??? ???????? ???. ?????? ???????? ????????????????, ???????? ? ???????????????? ??????? ?????? ????????? ??????????. ??????? ??????? ??????? ?????? ? ??????????????: ???? ????????????????? ???????? ???????????? ???????? ?????????????????? ??? ???????? ? ???????, ??????? ?????????? ????????? ???? ? ???????. ???? ?????? ?? ????? ?????? ????????????? ?????? ???????? ??? ????????????? ??????, ??????????? ??? ???????? ?????????? ????????????? ?? ? ????????? ???????? ? ????????????? ????? ???????. ?????? ??????????????, ?????? ? ????????????, ? ?????? ?????????????????? ? ???????????? ??????. ??? ???????? ? ???? ????????????? ? ????????????? ?????? ? ????????????????? ???????, ?????????? ????????? ????? ?????????? ??????? ??????. ??? ?????? ?? ???? ????????????????? ?? ?????????? ????????? ???? ? ??, ? ??????????????, ????? ???????? ?????? ?????? ????, ??????????? ?????, ????? ?? ????????????????? ????????? ???????. ????????, vLLM, ? ??????? ???????????? ? ??????, ??? ?????? ??????????. ????? ????????, ??? Minerva ?? ?????????? ??????? ??????? ????????????, ???????? ??????????? ??? ????????????? Python. ???????, ?????????????????? LLM ????????? ?????????? ??? ????????? ?????????????? ?????? ? ??????????, ??? ?? ???????? ???????? ?? ?????????????. ??? ?????????? ????? ???????????? ? ? ?????????????????? ???????? ??????. ?????? ??????? ???????? ??????? ???????? ?? ??????????? ????????????? ????????? ????? ? ?????????????????? ??????. ???? ??????? ???????? ?????? ?????? ?????????? ? ????? ????? ???????. ??????? ??????? ???????? ? ??????? ????????????? ?????, ????????? ???????? ?????? ???????????. ??-??????, ??? ?????? ????????????? ??????????????, ????????? ?? ????? ????? ????????? ? ???????????? ??????????? ??????? ???????? ????????. ??????? ???????? ? ???? ????????????? ?????????????? ?????? ??????, ?????????? ?? ???????????? ??????????? ???? ? ????????? ? ???????????????? ?????????????. ???????? ? ??????????? ????????? ?????? ? ??????? ????????? ????? ????????? ?????????? ?????????? ????????? ????????, ????????, ??????? ?? ???, ??????????? ? ???, ????????? ?????????????? ???????? ?????????? ?????? ? ????????? ????????????? ??????????????????. ??? ???? ??????????, ??? ?????? ???????????????? ??????, ?, ?????????????, ??? ????? ??? ????????????? ???????. https://auslander.expert/ ????? ????????, ??? ?????? ?? ?????? RNN ???????????? ? ??? ???????? ????????? ????????????? ?????. ? ?????????, ???????? ?????????? ???????? ???????? ELMo (2018) ? ULMFiT (2018). ?????? ???????? ??????????? seq2seq ????? ????????? ????? ????? — ??????? ?????? ??? ??????? ?????????????????? ? ????????????? ????????????? — ???????????? ???????. ????? ????????? ???????????? — ? https://huggingface.co/blog ??? ??????? ??????????, ??? ?????? ??? ???????? ?? ??? ??????, ??? ?? ???????????. ??? ???????? ? ????, ??? ????????? ?????? ????? ?????? ???????, ??? ???????? ? ?????????? ???????? ? ??????? ?????????????? ?????????. ???? ????? ??????????? ????????? ???????? ?? ??????, ??? ?????? ????????? ??????? ?? ????? ?????? ??????; ? ?????? ??????? ???????????? ?? ????????? ????? ????????????, ? ??????? ?? ??????? ??? ???? ???????? ??????. ????????? ????????? ?? ?????? ? ????????? ???????????? ???????? ?????????? ???????? ?????????? ???????????? ?? ?????????. ???????? ?? ???????????? ??????, ???????? ??? ????????? ??????????? ??? ????????? ? ????????? ?????? ????????????. LLM ???????????? ????????? ????? ? ??????????? ?? ??????, ??????? ??? ?????? ?????.

MaplePrimes Activity


MaplePrimes Badges

SERP-Genius has not earned any MaplePrimes badges yet.

SERP-Genius has 0 reputation . What is reputation?