Function as a Service (FaaS) is a significant step in the evolution of cloud computing. Here, applications are often a composition of several fine-grained and ephemeral functions that implement complex business processes via mutual interaction and interaction with cloud services such as databases. FaaS is often associated with the term serverless as all server-specific aspects, such as networking and scaling of functions, are handled by the cloud provider. The scaling of functions also includes scaling to zero instances, reducing costs since FaaS follows a pay-per-use pricing policy. However, scaling an inactive function requires the provisioning of its function code and dependencies. This phenomenon is called cold start and can lead to high latency. Furthermore, since functions in FaaS are stateless, they may need to query databases frequently, resulting in high latency and network load. In this work, we use neural temporal point processes (TPPs) to model function invocations in FaaS compositions. Using these probabilistic models, we predict a probability distribution over the time and class of the next invocation for a given history of invocations. The prediction can avoid cold starts by scaling functions in advance and reduce network load by optimizing the function-server assignment. We used the neural TPPs LogNormMix, which models the time using a log-normal mixture distribution, and TruncNorm, which predicts a single value for the time. Using our system TppFaaS, we generated datasets from multiple FaaS compositions in order to train and test our models. For datasets without cold starts, the models achieved for most compositions a mean absolute error below 22ms and a percentage of correctly predicted function classes above 94%. We conclude that neural TPPs are a suitable method to capture the latent temporal dynamics in FaaS compositions.     «

Function as a Service (FaaS) is a significant step in the evolution of cloud computing. Here, applications are often a composition of several fine-grained and ephemeral functions that implement complex business processes via mutual interaction and interaction with cloud services such as databases. FaaS is often associated with the term serverless as all server-specific aspects, such as networking and scaling of functions, are handled by the cloud provider. The scaling of functions also includes...     »

Function as a Service (FaaS) ist ein bedeutender Schritt in der Entwicklung des Cloud Computings. Hier sind Applikationen oft eine Komposition aus mehreren granularen und kurzlebigen Funktionen, die durch gegenseitige Interaktion und Interaktion mit Cloud-Diensten wie Datenbanken komplexe Geschäftsprozesse implementieren. FaaS wird häufig mit dem Begriff Serverless assoziiert, da alle serverspezifischen Aspekte wie Netzwerk und Skalierung der Funktionen vom Cloud-Anbieter übernommen werden. Die Skalierung von Funktionen bedeutet auch eine Skalierung auf Null Instanzen, wodurch die Kosten reduziert werden, da FaaS eine Pay-per-Use-Preispolitik verfolgt. Die Skalierung einer inaktiven Funktion erfordert jedoch die Bereitstellung ihres Funktionscodes und ihrer Dependencies. Dieses Phänomen wird als Cold Start bezeichnet und kann zu hohen Latenzzeiten führen. Da die Funktionen in FaaS zustandslos sind, müssen sie außerdem häufig Datenbanken abfragen, was zu hohen Latenzzeiten und Netzwerkbelastungen führt. In dieser Arbeit verwenden wir neuronale temporale Punktprozesse (TPPs), um Funktionsaufrufe in FaaS-Kompositionen zu modellieren. Mit diesen probabilistischen Modellen wird eine Wahrscheinlichkeitsverteilung für den Zeitpunkt und die Klasse des nächsten Aufrufs für eine gegebene Historie von Aufrufen vorhergesagt. Die Vorhersage kann Cold Starts verhindern, indem Funktionen im Voraus skaliert werden, und durch Optimierung der Funktions-Server-Zuordnung die Netzwerklast reduzieren. Wir verwendeten die neuronalen TPPs LogNormMix, das die Zeit anhand einer log-normalen Mischverteilung modelliert, und TruncNorm, das einen einzelnen Wert für die Zeit vorhersagt. Mit unserem System TppFaaS haben wir Datensätze von verschiedenen FaaS-Kompositionen erzeugt, um unsere Modelle zu trainieren und zu testen. Bei Datensätzen ohne Cold Starts erreichten die Modelle für die meisten Kompositionen einen mittleren absoluten Fehler von unter 22ms und einen Anteil der korrekt vorhergesagten Funktionsklassen von über 0,94. Wir kommen zu dem Schluss, dass neuronale TPPs eine geeignete Methode sind, um die latente zeitliche Dynamik in FaaS-Kompositionen zu erfassen.     «

Function as a Service (FaaS) ist ein bedeutender Schritt in der Entwicklung des Cloud Computings. Hier sind Applikationen oft eine Komposition aus mehreren granularen und kurzlebigen Funktionen, die durch gegenseitige Interaktion und Interaktion mit Cloud-Diensten wie Datenbanken komplexe Geschäftsprozesse implementieren. FaaS wird häufig mit dem Begriff Serverless assoziiert, da alle serverspezifischen Aspekte wie Netzwerk und Skalierung der Funktionen vom Cloud-Anbieter übernommen werden. Die...     »