网络服务软件开发是在许多方面不同于传统的桌面服务器模型。并发足够的典型网络服务显示并发多拥挤主要来自数据和请求级并发。

    通常，这个问题并不复杂，但是如何有效的管理和处理应用程序内部的并发。从相对独立的记录，需要处理的数据并发访问大量的数据，如收集对网页或日志数以亿计收集。这些非常大的数据集，每个并行子任务，通常需要大量的计算，这反过来又有助于隐藏或容忍的通信和同步开销。

    同样，接收请求级并行性源于流行的互联网服务为每秒请求数十万人。高级API的工作量将用户的互联网服务，通过比较好的定义，例如，简单的URL实施，服务的实现细节分离，更容易和快速部署新的软件。谷歌服务的发布周期的关键部分已经达到了几周，相比于桌面软件产品可能需要数月或数年。例如，谷歌的前端Web服务器的二进制文件近一千个独立的代码完成由开发商变更登记数百名，发布周期只是一个月，谷歌核心的搜索服务代码每2到3年的几乎是从零开始的实现。

    这大大激发了快速产品创新的环境，而且使系统设计师提取有用的基准库，甚至建立应用变得非常困难。此外，由于互联网服务仍然是一个相对较新的领域，新的产品和服务所产生的经常出现，他们的成功与用户的直接影响的工作负荷，混合到数据中心。