容器serverless专场

视频地址：https://2023gdes.cloud.tencent.com/eventShows/655678164496211976#1

超级节点

• 预付费模式+弹性扩容（限制配额）
• 原生k8s的无缝迁移
• debug
  • 30s热迁移，保留现场
  • debug pod
  • service mesh调用链监控

原生节点

• 面向应用优化
  • 容器运行时，cpu burst
  • 容器运行时，内存动态回收（自研的内核）
    • cgroup级别的内存压力和热度监控
• 面向调度优化
  • 术语：
    • 装箱：指k8s为某个容器分配资源，并且调度到某节点上
    • 水位：容器的资源使用情况
  • 单个容器的动态扩缩容
• 面向内核优化
  • tmd看不懂，超线程隔离，磁盘QoS等

Serverless

• 云函数
  • 底层依托于TKE集群，但由腾讯云在其TKE集群上部署统一的服务调度的框架
  • 用户可直接管理TKE集群，运维体验和K8S相似
• 大模型托管双向可信问题
  • 模型提供商：只想出租模型，让用户调用，不想让用户下载模型文件
  • 用户：想使用更成熟的模型，安全考虑不想暴露自己的业务数据
  • 中间商：腾讯TKE代理部署模型，用户统一输入格式放入黑盒跑出结果

消息中间件MQ

视频地址：https://2023gdes.cloud.tencent.com/eventShows/655678590813659137#1