目前遇到一个需求,应该是大数据处理范畴,不过我没有做过类似需求,看看各位有没有什么好的解决方案推荐

就是要实现图中的 taskA 、taskB 、taskC
技术栈是 JAVA
目前遇到一个需求,应该是大数据处理范畴,不过我没有做过类似需求,看看各位有没有什么好的解决方案推荐

就是要实现图中的 taskA 、taskB 、taskC
技术栈是 JAVA
|
9113946May 29, 2023
1
spark sql 轻松解决
|
|
xiangagouMay 29, 2023
2
看你的数据量和具体需求喽,大数据那套可以做,Java 自己处理数据也可以做.大数据主要搭起来麻烦,写写脚本都是比较简单的.
|
|
bk201May 29, 2023
3
看你的图和大数据好像没啥关系。
|
|
4
@xiangagou 每天 100w 左右数据要处理,要考虑并行和水平扩容提高处理效率的话,感觉直接写代码会比较麻烦,,,process1~processN 之间也可能有相互依赖。flink 那套不知道能不能一把梭
|
|
xiangagouMay 29, 2023
5
@bugmakerxs flink 能搞得.我看了下 es 的 sink 端官方有的,source 端没有需要自己处理.
|