放弃Nginx,Cloudflare开源基于Rust构建的网络服务框架Pingora
据 Cloudflare 官博介绍,他们基于 Rust 构建的代理框架 Pingora 正式开源,采用 Apache License 2.0 协议。Pingora 是一个 Rust 异步多线程框架,用于构建可编程网络服务。Pingora 长期以来一直在 Cloudflare 内部使用,能够维持大量流量,而现在 Pingora 正在开源,以帮助在 Cloudflare 之外构建基础设施。
把安全作为首要任务:对于使用 C/C++ 编写的服务,Pingora 是一种更安全的内存替代方案。尽管有人对编程语言的内存安全性存在争议,但根据 Cloudflare 的实际经验,他们发现自己很少犯下导致内存安全问题的编码错误。此外,随着他们在处理这些问题上花费的时间减少,在实现新功能方面更加高效。 你的服务对性能敏感:Pingora 快速高效。由于 Pingora 的多线程架构,他们节省了大量的 CPU 和内存资源。对于对系统的成本和/或速度敏感的工作负载来说,这种时间和资源的节省可能非常引人注目。 服务需要广泛的定制:Pingora 代理框架提供的 API 非常可编程。对于希望构建定制化和高级网关或负载均衡器的用户,Pingora 提供了强大而简单的实现方式。
pub struct LB();
impl ProxyHttp for LB {
async fn upstream_peer(...) -> Result<Box<HttpPeer>> {
todo!()
}
}
pub struct LB(Arc<LoadBalancer<RoundRobin>>);
#[async_trait]
impl ProxyHttp for LB {
async fn upstream_peer(...) -> Result<Box<HttpPeer>> {
let upstream = self.0
.select(b"", 256) // hash doesn't matter for round robin
.unwrap();
// Set SNI to one.one.one.one
let peer = Box::new(HttpPeer::new(upstream, true, "one.one.one.one".to_string()));
Ok(peer)
}
}
fn main() {
let mut upstreams = LoadBalancer::try_from_iter(["1.1.1.1:443", "1.0.0.1:443"]).unwrap();
let mut lb = pingora_proxy::http_proxy_service(&my_server.configuration, LB(upstreams));
lb.add_tcp("127.0.0.1:6188");
let mut my_server = Server::new(None).unwrap();
my_server.add_service(lb);
my_server.run_forever();
}
curl 127.0.0.1:6188 -svo /dev/
GET / HTTP/1.1
Host: 127.0.0.1:6188
User-Agent: curl/7.88.1
Accept: */*
< HTTP/1.1 403 Forbidden
async fn upstream_request_filter(…, upstream_request: &mut RequestHeader, …) -> Result<()> {
upstream_request.insert_header("Host", "one.one.one.one")
}
curl 127.0.0.1:6188 -svo /dev/
< HTTP/1.1 200 OK
可以在这里查看完整示例:https://github.com/cloudflare/pingora/blob/main/pingora-proxy/examples/load_balancer.rs
下面是一幅简单的请求处理示例图,展示了这个请求是如何通过我们在本例中使用的回调函数和过滤器流动的。Pingora 代理框架目前在请求的不同阶段提供了更多的过滤器和回调函数,以允许用户修改、拒绝、路由和/或记录请求(和响应)。
参考链接:https://blog.cloudflare.com/pingora-open-source