@@ -67,6 +67,10 @@ ifeq ($(UNAME_S),Darwin)
67
67
endif
68
68
endif
69
69
70
+ ifdef LLAMA_RPC
71
+ BUILD_TARGETS += rpc-server
72
+ endif
73
+
70
74
default : $(BUILD_TARGETS )
71
75
72
76
test : $(TEST_TARGETS )
@@ -417,11 +421,10 @@ ifdef LLAMA_BLIS
417
421
endif # LLAMA_BLIS
418
422
419
423
ifdef LLAMA_RPC
420
- MK_CPPFLAGS += -DGGML_USE_RPC
421
- OBJS += ggml-rpc.o
424
+ MK_CPPFLAGS += -DGGML_USE_RPC
425
+ OBJS += ggml-rpc.o
422
426
endif # LLAMA_RPC
423
427
424
-
425
428
ifdef LLAMA_CUBLAS
426
429
# LLAMA_CUBLAS is deprecated and will be removed in the future
427
430
LLAMA_CUDA := 1
@@ -632,6 +635,10 @@ ggml-metal-embed.o: ggml-metal.metal ggml-common.h
632
635
endif
633
636
endif # LLAMA_METAL
634
637
638
+ OBJS += ggml-alloc.o ggml-backend.o ggml-quants.o unicode.o unicode-data.o
639
+ COMMON_H_DEPS = common/common.h common/sampling.h common/log.h llama.h
640
+ COMMON_DEPS = common.o sampling.o grammar-parser.o build-info.o json-schema-to-grammar.o
641
+
635
642
ifndef LLAMA_NO_LLAMAFILE
636
643
sgemm.o : sgemm.cpp sgemm.h ggml.h
637
644
$(CXX ) $(CXXFLAGS ) -c $< -o $@
@@ -640,8 +647,13 @@ endif
640
647
ifdef LLAMA_RPC
641
648
ggml-rpc.o : ggml-rpc.cpp ggml-rpc.h
642
649
$(CXX ) $(CXXFLAGS ) -c $< -o $@
643
- endif # LLAMA_RPC
644
650
651
+ rpc-server.o : examples/rpc/rpc-server.cpp ggml-rpc.h
652
+ $(CXX ) $(CXXFLAGS ) -c $< -o $@
653
+
654
+ rpc-server : rpc-server.o ggml.o llama.o $(COMMON_DEPS ) $(OBJS )
655
+ $(CXX ) $(CXXFLAGS ) $^ -o $@ $(LDFLAGS )
656
+ endif # LLAMA_RPC
645
657
646
658
GF_CC := $(CC )
647
659
include scripts/get-flags.mk
@@ -722,14 +734,9 @@ unicode.o: unicode.cpp unicode.h
722
734
unicode-data.o : unicode-data.cpp unicode-data.h
723
735
$(CXX ) $(CXXFLAGS ) -c $< -o $@
724
736
725
- OBJS += ggml-alloc.o ggml-backend.o ggml-quants.o unicode.o unicode-data.o
726
-
727
737
llama.o : llama.cpp unicode.h ggml.h ggml-alloc.h ggml-backend.h ggml-cuda.h ggml-metal.h llama.h
728
738
$(CXX ) $(CXXFLAGS ) -c $< -o $@
729
739
730
- COMMON_H_DEPS = common/common.h common/sampling.h common/log.h llama.h
731
- COMMON_DEPS = common.o sampling.o grammar-parser.o build-info.o json-schema-to-grammar.o
732
-
733
740
common.o : common/common.cpp $(COMMON_H_DEPS )
734
741
$(CXX ) $(CXXFLAGS ) -c $< -o $@
735
742
0 commit comments