funboost_config.py 7.1 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157
  1. # -*- coding: utf-8 -*-
  2. from pathlib import Path
  3. import pytz
  4. from funboost.constant import BrokerEnum, ConcurrentModeEnum
  5. from funboost.core.function_result_status_saver import FunctionResultStatusPersistanceConfig
  6. from funboost.utils.simple_data_class import DataClassBase
  7. '''
  8. 此文件是第一次运行框架自动生成刀项目根目录的,不需要用由户手动创建。
  9. 此文件里面可以写任意python代码。例如 中间件 帐号 密码自己完全可以从apola配置中心获取或者从环境变量获取。
  10. '''
  11. '''
  12. 你项目根目录下自动生成的 funboost_config.py 文件中修改配置,会被自动读取到。
  13. 用户不要动修改框架的源码 funboost/funboost_config_deafult.py 中的代码,此模块的变量会自动被 funboost_config.py 覆盖。
  14. 此文件按需修改,例如你使用redis中间件作为消息队列,可以不用管rabbitmq mongodb kafka啥的配置。
  15. 但有3个功能例外,如果你需要使用rpc模式或者分布式控频或者任务过滤功能,无论设置使用何种消息队列中间件都需要把redis连接配置好,
  16. 如果@boost装饰器设置is_using_rpc_mode为True或者 is_using_distributed_frequency_control为True或do_task_filtering=True则需要把redis连接配置好,默认是False。
  17. 框架使用文档是 https://funboost.readthedocs.io/zh_CN/latest/
  18. '''
  19. # $$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$ 以下是中间件连接配置 $$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$
  20. MONGO_CONNECT_URL = f'mongodb://127.0.0.1:27017' # 如果有密码连接 'mongodb://myUserAdmin:8mwTdy1klnSYepNo@192.168.199.202:27016/' authSource 指定鉴权db,MONGO_CONNECT_URL = 'mongodb://root:123456@192.168.64.151:27017?authSource=admin'
  21. RABBITMQ_USER = 'rabbitmq_user'
  22. RABBITMQ_PASS = 'rabbitmq_pass'
  23. RABBITMQ_HOST = '127.0.0.1'
  24. RABBITMQ_PORT = 5672
  25. RABBITMQ_VIRTUAL_HOST = '' # my_host # 这个是rabbitmq的虚拟子host用户自己创建的,如果你想直接用rabbitmq的根host而不是使用虚拟子host,这里写 空字符串 即可。
  26. RABBITMQ_URL= f'amqp://{RABBITMQ_USER}:{RABBITMQ_PASS}@{RABBITMQ_HOST}:{RABBITMQ_PORT}/{RABBITMQ_VIRTUAL_HOST}'
  27. REDIS_HOST = '127.0.0.1'
  28. REDIS_PASSWORD = ''
  29. REDIS_PORT = 6379
  30. REDIS_DB = 7 # redis消息队列所在db,请不要在这个db放太多其他键值对,框架里面有的功能会scan扫描unacked的键名,使用单独的db。
  31. REDIS_DB_FILTER_AND_RPC_RESULT = 8 # 如果函数做任务参数过滤 或者使用rpc获取结果,使用这个db,因为这个db的键值对多,和redis消息队列db分开
  32. REDIS_URL= f'redis://:{REDIS_PASSWORD}@{REDIS_HOST}:{REDIS_PORT}/{REDIS_DB}'
  33. NSQD_TCP_ADDRESSES = ['127.0.0.1:4150']
  34. NSQD_HTTP_CLIENT_HOST = '127.0.0.1'
  35. NSQD_HTTP_CLIENT_PORT = 4151
  36. KAFKA_BOOTSTRAP_SERVERS = ['127.0.0.1:9092']
  37. SQLACHEMY_ENGINE_URL = 'sqlite:////sqlachemy_queues/queues.db'
  38. # 如果broker_kind 使用 peewee 中间件模式会使用mysql配置
  39. MYSQL_HOST = '127.0.0.1'
  40. MYSQL_PORT = 3306
  41. MYSQL_USER = 'root'
  42. MYSQL_PASSWORD = '123456'
  43. MYSQL_DATABASE = 'testdb6'
  44. # persist_quque中间件时候采用本机sqlite的方式,数据库文件生成的位置。如果linux账号在根目录没权限建文件夹,可以换文件夹。
  45. SQLLITE_QUEUES_PATH = '/sqllite_queues'
  46. TXT_FILE_PATH = Path(__file__).parent / 'txt_queues' # 不建议使用这个txt模拟消息队列中间件,本地持久化优先选择 PERSIST_QUQUE 中间件。
  47. ROCKETMQ_NAMESRV_ADDR = '192.168.199.202:9876'
  48. MQTT_HOST = '127.0.0.1'
  49. MQTT_TCP_PORT = 1883
  50. HTTPSQS_HOST = '127.0.0.1'
  51. HTTPSQS_PORT = '1218'
  52. HTTPSQS_AUTH = '123456'
  53. NATS_URL = 'nats://192.168.6.134:4222'
  54. KOMBU_URL = 'redis://127.0.0.1:6379/9' # 这个就是celery依赖包kombu使用的消息队列格式,所以funboost支持一切celery支持的消息队列种类。
  55. # KOMBU_URL = 'sqla+sqlite:////dssf_kombu_sqlite.sqlite' # 4个//// 代表磁盘根目录下生成一个文件。推荐绝对路径。3个///是相对路径。
  56. CELERY_BROKER_URL = 'redis://127.0.0.1:6379/12' # 使用celery作为中间件。funboost新增支持celery框架来运行函数
  57. CELERY_RESULT_BACKEND = 'redis://127.0.0.1:6379/13' # celery结果存放,可以为None
  58. DRAMATIQ_URL = RABBITMQ_URL
  59. PULSAR_URL = 'pulsar://192.168.70.128:6650'
  60. # $$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$ 以上是中间件连接配置 $$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$
  61. # nb_log包的第几个日志模板,内置了7个模板,可以在你当前项目根目录下的nb_log_config.py文件扩展模板。
  62. NB_LOG_FORMATER_INDEX_FOR_CONSUMER_AND_PUBLISHER = 11 # 7是简短的不可跳转,5是可点击跳转的,11是可显示ip 进程 线程的模板。
  63. FSDF_DEVELOP_LOG_LEVEL = 50 # 作者开发时候的调试代码的日志,仅供我自己用,所以日志级别跳到最高,用户不需要管。
  64. TIMEZONE = 'Asia/Shanghai'
  65. # *********************************************** 以下是 boost装饰器的默认全局配置 *******************************************
  66. """
  67. BoostDecoratorDefaultParams是@boost装饰器默认的全局入参。如果boost没有亲自指定某个入参,就自动使用这里的配置。
  68. 这里的值不用配置,在boost装饰器中可以为每个消费者指定不同的入参,除非你嫌弃每个 boost 装饰器相同入参太多了,那么可以设置这里的全局默认值。
  69. 例如用户不想每次在boost装饰器指定broker_kind为哪种消息队列,可以设置broker_kind为用户自己希望的默认消息队列类型
  70. boost入参可以ide跳转到boost函数的docstring查看
  71. boost入参也可以看文档3.3章节 https://funboost.readthedocs.io/zh/latest/articles/c3.html
  72. BoostDecoratorDefaultParams这个类的属性名字和boost装饰器的入参名字一模一样,只有 queue_name 必须每个装饰器是不同的名字,不能作为全局的。
  73. 所以boost装饰器只有一个是必传参数。
  74. """
  75. class BoostDecoratorDefaultParams(DataClassBase):
  76. concurrent_mode = ConcurrentModeEnum.THREADING
  77. concurrent_num = 50
  78. specify_concurrent_pool = None
  79. specify_async_loop = None
  80. qps: float = 0
  81. is_using_distributed_frequency_control = False
  82. is_send_consumer_hearbeat_to_redis = False
  83. max_retry_times = 3
  84. is_push_to_dlx_queue_when_retry_max_times = False
  85. consumin_function_decorator = None
  86. function_timeout = 0
  87. log_level = 10
  88. logger_prefix = ''
  89. create_logger_file = True
  90. is_show_message_get_from_broker = False
  91. is_print_detail_exception = True
  92. msg_expire_senconds = 0
  93. do_task_filtering = False
  94. task_filtering_expire_seconds = 0
  95. function_result_status_persistance_conf = FunctionResultStatusPersistanceConfig(False, False, 7 * 24 * 3600)
  96. user_custom_record_process_info_func = None
  97. is_using_rpc_mode = False
  98. is_support_remote_kill_task = False
  99. is_do_not_run_by_specify_time_effect = False
  100. do_not_run_by_specify_time = ('10:00:00', '22:00:00')
  101. schedule_tasks_on_main_thread = False
  102. broker_exclusive_config = {}
  103. broker_kind: int = BrokerEnum.PERSISTQUEUE # 中间件选型见3.1章节 https://funboost.readthedocs.io/zh/latest/articles/c3.html
  104. # *********************************************** 以上是 boost装饰器的默认全局配置 *******************************************